KT가 'AI 토큰 경제'에 자신있게 뛰어든 이유

[이슈진단+] AX플랫폼컴퍼니① 토큰 사용 효율화와 과금 역량 결합

(지디넷코리아=박수형 기자)박윤영 KT 대표가 취임 후 처음 열린 언론 대상 간담회에서 회사 신사업으로 ‘토큰 팩토리’를 제시했다. AI 토큰 기반 경제에서 새로운 AI 과금 체계로 수익을 일으켜 회사의 대표적인 AI 사업으로 삼겠다는 것이다.

무엇보다 AI 사업 모델의 발전에서 최대 병목으로 꼽히는 토큰 비용 처리를 두고 KT라는 통신사가 가장 잘할 수 있는 사업 모델이란 이유를 들어 이목을 끌었다.

박 대표는 6일 열린 AX플랫폼컴퍼니 비전 발표 자리에서 “연결을 중심으로 하는 통신사에서 이전까지의 단위는 비트(bit) 였고, AI 경제에서 기본 단위는 토큰으로 완성됐다”면서 “AI를 제공하는 회사들이 토큰 사용량이 폭증하면서 월 구독료 모델에 변화를 두고 있고 AI를 이용하던 기업도 고민이 생겼는데, 이를 해결할 수 있는 게 바로 ‘토큰 팩토리’”라고 말했다.

이어 “토큰팩토리 비즈니스 모델로 KT는 최적의, 그리고 가장 효율적으로 적합한 파운데이션 모델과 보안을 사용하는지 총제적인 답을 만들어 제공하겠다”며 “빠른 시간에 작동하는 모습을 보여주겠다”고 밝혔다.

박윤영 KT 대표가 첫번째 신사업으로 토큰팩토리를 꼽았다.

토큰은 AI 모델에서 텍스트나 이미지를 처리할 때 쓰는 기본 단위를 일컫는다. AI 이용 확산으로 토큰 사용량은 걷잡을 수 없이 증가하는 추세다. 이처럼 폭발적으로 증가하는 토큰 사용량에 따라 기존 정액제 형태의 모델이 변화할 수밖에 없게 됐다.

KT는 이 지점에서 새로운 사업 모델을 만들어 AI를 제공하는 기업이나 이용하는 이들의 수요를 모두 맞추겠다는 것이다. 즉, 토큰 이용량에 따라 과금을 통합하고 운영하는 플랫폼 ‘토큰팩토리’를 내세워 토큰 경제를 주도하겠다는 전략이다.

구체적으로는 통신 네트워크를 통한 연결의 중심에 있는 KT는 AI 토큰이 오가는 길목에서 게이트웨이 역할을 맡는다. 전국에 포진된 KT 데이터센터와 토큰 최적화 엔진을 바탕으로 토큰의 생성, 중개, 과금 지원이 가능한 게이트웨이가 KT가 말하는 토큰팩토리다.

토큰팩토리에서 중요한 핵심은 AI 토큰을 얼마나 효율적으로 사용하냐의 문제다.

이에 관련해 박상원 KT AX사업부문장은 “GPU와 NPU 등 토큰을 가장 싸게 생산해서 공급할 수 있도록 최적화하는 것을 시작으로 최적의 모델을 컨텍스트 기반으로 자동 라우팅을 통해 토큰 사용을 최소화할 수 있다”고 설명했다. 이어 “하네스와 루프 엔지니어링 등 다양한 최적화 기술을 적용해 토큰 사용량을 줄이고, 가장 저렴하고 효율적으로 AI 서비스를 제공할 수 있는 모델을 만들겠다”고 덧붙였다.

토큰 사용 효율화와 함께 KT가 자신하는 부분은 '과금'이다.

통신사는 과거 음성통화부터 현재 데이터 이용까지 개인별 과금에 뛰어난 역량을 갖고 있는데, 토큰 중심의 경제에서는 이같은 통신사 역량이 빛을 낼 수 있다는 것이다.

박 대표는 “게이트웨이의 더 중요한 문제는 개인별로 과금하게 되는데, 과금은 통신사만큼 잘하는 곳이 없다”면서 “AI 회사들이 경험하지 못해 결핍된 과금 영역은 통신사가 가장 잘하기 때문에 새로운 비즈니스가 될 수 있다”고 강조했다.

이어 “토큰팩토리를 갖추게 되면 AI데이터센터 인프라에서 필요에 따라 추론과 같은 수익 마진을 낼 수 있다”며 “각 파운데이션 모델이 다른 토큰을 쓸 때 모델을 제공하는 회사들과 협약을 통해 비즈니스 구조를 만들어갈 수 있다”고 덧붙였다.

KT는 토큰팩토리 사업을 회사 AX 사업의 대표적인 모델로 키워낼 방침이다.

아울러 토큰팩토리와 함께 신사업으로 꼽은 스테이블코인, 그간 역량을 키워온 피지컬AI를 결합한 사업 청사진도 그리고 있다. 이를 통해 한국 시장을 넘어 동남아 신흥 시장까지 사업 권역을 공략한다는 계획이다.

박수형 기자(psooh@zdnet.co.kr)