KT가 오는 30일 인공지능(AI) 모델 통합 플랫폼 ‘토큰팩토리’를 출시하며 AI 시장의 새로운 지평을 열 예정이다. 이 플랫폼은 기업과 개인 모두에게 다양한 AI 모델을 제공하고, 사용량과 비용을 통합 관리할 수 있는 기능을 갖추고 있다. 특히, KT는 AI 모델 73종을 처음으로 선보일 예정이며, 다음 달에는 글로벌 AI 플랫폼인 오픈라우터와의 협력을 통해 500종 이상의 모델로 확대할 계획이다.
27일 서울 종로구 KT 광화문 빌딩에서 열린 기자간담회에서 박상원 KT AX사업부문장 전무는 ‘AI를 잘 쓰는 시대’라는 주제로 발표를 진행했다. KT의 토큰팩토리는 사용자가 필요로 하는 AI 모델을 자동으로 선택하고, 이용 현황을 모니터링하며 결제까지 통합 관리할 수 있는 기능을 제공한다. 이러한 통합 관리 기능은 기업 고객에게 특히 유용할 것으로 예상된다.
KT는 자체 개발한 AI 모델 라우팅 기술인 오토 모델 라우터를 활용하여 비용 효율성을 높이고 있다. 이 기술은 질문의 업무 유형과 난이도, 요구 품질을 종합적으로 분석하여 최적의 AI 모델을 자동으로 선택하게 해준다. 또한, KT는 한국어 특성을 고려하여 프롬프트 압축 기술을 적용, 입력 토큰 수를 줄이면서도 질문의 의미와 응답 품질을 유지하는 방식으로 효율성을 극대화했다. 이로 인해 사용자는 최대 25%의 토큰 사용량을 절감할 수 있으며, 이는 기업의 비용 부담을 덜어줄 수 있다.
출시 초기 제공되는 AI 모델 73종 중에는 KT가 국내 데이터센터의 그래픽처리장치(GPU)를 활용해 직접 추론 서비스를 제공하는 소버린 AI 모델이 포함되어 있다. KT는 이 모델을 통해 국내에서 가장 많이 사용되는 모델과 최신 스타트업 모델을 선별하여 제공할 계획이다. 이와 함께, KT는 글로벌 AI 모델 마켓플레이스 사업자인 오픈라우터와 공식 파트너십을 체결하고, 오픈라우터가 보유한 500개 이상의 글로벌 AI 모델을 토큰팩토리에 연계할 예정이다. 이를 통해 국내 AI 모델을 해외에 유통하는 사업도 적극 추진하고 있다.
KT는 금융 및 공공 시장을 겨냥한 AX(Artificial Intelligence Transformation) 사업을 통해 토큰팩토리를 기존 AI 전환 사업과 결합하여 시장 공략에 나선다. 특히, 금융권에는 국내 데이터센터에서 구동되는 AI 모델 7종을 중심으로 서비스를 제공하고, 공공 부문에는 보안 규제에 맞춘 별도의 클라우드 환경을 구축할 예정이다. KT의 자체 가드레일 기술은 이용자의 개인정보와 민감정보, 유해 표현을 점검하고 AI가 생성한 답변의 안전성도 검증하는 기능을 제공한다.
요금제는 사용량에 따라 지불하는 ‘스탠다드’와 사용 규모 및 약정 기간에 따라 할인을 제공하는 ‘엔터프라이즈’로 구성된다. 스탠다드는 후불 정산과 선불 크레딧을 모두 지원하며, 엔터프라이즈는 기업별 할인과 함께 맞춤형 기능을 제공한다. KT는 단순 중개 수수료가 아닌 자체 인프라에서 AI 추론 서비스를 제공하여 수익 모델을 다각화할 예정이다.
내년 3월에는 개인 개발자와 일반 소비자를 대상으로 서비스를 확대하고 구독형 요금제도 도입할 계획이다. 박상원 전무는 AI 시장의 경쟁이 ‘누가 더 좋은 모델을 만드는가’에서 ‘누가 AI를 더 쉽고 효율적으로 활용하도록 지원하는가’로 변화하고 있다고 강조하며, 토큰팩토리가 대한민국 AI 생태계의 성장을 이끄는 핵심 플랫폼으로 발전할 것이라고 밝혔다. KT의 이번 플랫폼 출시는 AI 기술의 접근성과 활용성을 한층 높여줄 것으로 기대된다.
[관련기사] https://n.news.naver.com/mnews/article/001/0016402932?sid=105
답글 남기기