[DTW 2026] “기업 비용 구조, 인건비에서 토큰으로 중심 이동… 효율화 필요”
토큰 사용 1년새 10배 폭증… ‘토크노믹스’ 강조

“인공지능(AI) 변화 속도를 너무 과소평가했다. 3년 걸릴 것으로 예상했던 일이 12개월 만에 일어났다.”
제프 클라크(사진) 델 테크놀로지스 부회장은 19일(현지시간) 미국 라스베이거스 베네시안 호텔에서 열린 ‘델 테크놀로지스 월드 2026’ 2일차 기조연설에서 이같이 말했다.
그는 지난해 같은 행사에서 세계적으로 토큰 사용량이 폭증할 것이라고 말했는데 그 전망이 너무 보수적이었다고 인정했다.
클라크 부회장은 “지난 12개월 동안 AI 모델 사용료는 약 80% 하락했지만, 토큰 소비량은 10배 늘었다. 특히 추론에서 비롯된 사용량은 320배 폭증했다”고 진단했다.
업계에 따르면 지난해 전 세계적으로 100조개 토큰이 소비됐고, AI 컴퓨팅 파워의 3분의 2는 학습이 아닌 추론에 사용되고 있다. 기업의 생성형 AI 소프트웨어 지출도 1년 만에 3배로 늘어 370억달러를 돌파했다.
그는 델 내부에서도 토큰 사용량이 폭증하고 있다고 말했다.
클라크 부회장은 “엔지니어 그룹이 할당된 한달치 토큰을 몇 시간 만에 다 써버렸다”며 “문제가 있는 것이 아니고, 아니라 이것이 AI 에이전트 시대의 성공적인 모습이다”라고 설명했다.
그는 에이전트가 사람의 작업을 대신하면서 기업의 비용 구조가 인건비에서 토큰 중심으로 이동하고 있다고 분석했다. 과거 기업들은 분석이 더 필요할 때 분석가를, 코드가 더 필요하면 개발자를 채용해야 했지만 에이전틱 AI가 이런 틀을 영구적으로 깨뜨렸다는 진단이다.
클라크 부회장은 “5%의 직원이 AI를 통해 95%의 가치를 창출하는 비선형적 생산성 구조가 자리잡고 있다”고 했다. 이어 “토큰 사용량 증가와 함께 기업에 청구되는 비용도 급증하고 있다”고 지적했다. 특히 개발자 1명이 클라우드 환경에서 하루 3400달러치 토큰을 소비한다고 가정할 때 이를 4만5000달러짜리 로컬 워크스테이션에서 돌리면 토큰 비용은 0달러라고 강조했다. 기업 자체적인 AI 워크스테이션을 구축하는 게 비용 면에서 유리할 것이란 뜻이다.
클라크 부회장은 “어떤 토큰을 어디서 처리할지 결정하는 것이 향후 가장 중요한 인프라 의사결정 요인이 될 것”이라며 토큰 라우팅 개념을 핵심 화두로 제시했다.
라스베이거스(미국)/글·사진=김남석 기자 kns@dt.co.kr
Copyright © 디지털타임스. 무단전재 및 재배포 금지.