최근 인공지능(AI) 에이전트의 본격적인 도입이 이루어짐에 따라 기업의 생산성과 경영 성과를 측정하는 방법에 혁신적인 변화가 일어나고 있습니다. 특히, AI 기반의 작업 환경에서 ‘토큰’이라는 새로운 경제 지표가 주목받고 있습니다. 전통적인 투자수익률(ROI) 지표에서 벗어나, 기업이 투입한 토큰 대비 실제로 어떤 성과를 거두었는지를 평가하는 ‘토큰 대비 수익(Return on Tokens, ROT)’ 같은 새로운 지표의 필요성이 대두되고 있는 것입니다.
김지현 SK수펙스 AI 위원회 부사장은 최근 전자신문과의 인터뷰에서 AI 에이전트의 도입이 기존의 성과 측정 방식을 어떻게 변화시키고 있는지를 상세히 설명했습니다. 그는 AI 에이전트가 업무 과정의 로그를 기록함으로써 그 성과를 추적하기가 훨씬 용이해졌다고 강조했습니다. 특히 미국의 여러 테크 기업들이 이미 토큰의 활용도와 그에 따른 성과를 체계적으로 분석하는 흐름을 보이고 있다는 점을 언급했습니다.
토큰은 AI 데이터센터가 AI 연산을 처리하기 위해 사용하는 최소 단위로, 사용자가 입력한 데이터는 여러 개의 토큰으로 나뉘어 AI 모델에 입력됩니다. 이 과정에서 발생하는 토큰들은 AI 서비스의 가격을 형성하고, 기업의 생산성을 측정하는 새로운 경제적 언어로 자리 잡아가고 있습니다. 따라서, 기업들이 이러한 변화에 효과적으로 대응하기 위해서는 ‘토큰 이코노미’에 대한 이해가 필수적입니다.
SK그룹은 이러한 변화에 발맞추어 ‘토큰 이코노미’를 주제로 한 사내 배포용 책을 발간할 예정입니다. 김 부사장이 주도적으로 집필하게 될 이 책은 경영진들이 토큰의 개념과 그 중요성을 깊이 이해할 수 있도록 구성될 것입니다. 해당 책은 토큰의 수요와 공급 측면을 모두 다루는 내용을 포함하고 있어, 기업 내에서 토큰의 가치와 활용 방안을 다각적으로 탐구할 수 있는 기회를 제공할 것으로 기대됩니다.
김 부사장은 공급자와 소비자 관점에서의 토큰의 중요성을 강조했습니다. 공급자 측면에서는 동일한 용량의 데이터센터에서 토큰을 얼마나 빠르고 저렴하게 생산할 수 있는지가 핵심 요소입니다. 반면에, 토큰을 소비하는 기업 입장에서는 이를 효율적으로 사용하는 것이 중요하다고 하였습니다. 이러한 관점은 ‘토큰 이코노미’와 ‘토크노믹스’라는 용어로 정의되며, 각기 다른 관점에서 기업의 경영 전략을 수립하는 데 필요한 기초 자료가 되고 있습니다.
AI 에이전트의 도입으로 인해 기업들은 토큰 사용량 관리의 필요성이 더욱 커지고 있습니다. 생성형 AI는 월정액으로 비용이 부과되므로 예측이 가능하지만, AI 에이전트는 자율적으로 여러 도구를 호출하여 업무를 수행하기 때문에 이 과정에서 발생하는 토큰 사용량이 급증할 수 있습니다. 이는 기업에게 예측하기 어려운 변동비로 작용할 수 있습니다. 이에 따라, 김 부사장은 기업 차원에서 ‘토큰 거버넌스’ 체계를 구축하고, 누가, 어떤 업무에, 얼마나 사용하는지를 측정하고 통제하는 것이 필수적이라고 강조했습니다.
단순히 직원들에게 “토큰을 아껴 쓰라”고 요구하는 방식으로는 한계가 있음을 지적하며, 기업 차원에서 토큰 사용량을 한눈에 볼 수 있는 대시보드 구축과 업무에 적합한 AI 모델을 자동으로 선택하는 거대언어모델(LLM) 라우터의 도입이 필요하다고 설명했습니다. 이러한 시스템은 간단한 업무에는 저렴한 모델을, 중요한 업무에는 높은 성능의 모델을 배정하는 방식으로 운영될 수 있습니다. 반대로, 중요도가 높은 업무에는 높은 성능의 모델을 사용하도록 유도할 수도 있습니다.
마지막으로, 김 부사장은 토큰을 국가 경쟁력 측면에서도 바라볼 필요성이 있다고 언급했습니다. 토큰 자체를 수출하는 것은 현실적으로 어려운 만큼, 한국의 AI 애플리케이션이나 에이전트, AI 모델, 모델 라우터 등을 해외에 제공하여 토큰을 소비하게 만드는 부가가치를 수출하는 전략이 필요하다고 강조했습니다. 이와 같은 전략은 한국이 글로벌 AI 시장에서 경쟁력을 갖추는 데 중요한 역할을 할 것입니다.
[관련기사] https://n.news.naver.com/mnews/article/030/0003461453?sid=105
답글 남기기