클라크 델 부회장 “AI 변화 과소평가했다…3년 예상한 일이 1년 만에”

토큰 사용 1년새 10배 폭증…‘토크노믹스’ 강조

제프 클라크 델 테크놀로지스 부회장인 19일(현지시간) 미국 라스베이거스 베네시안 호텔에서 열린 DTW 2026 2일차 기조연설에서 ‘토크노믹스’를 강조하고 있다. 김남석 기자

“인공지능(AI) 변화 속도를 너무 과소평가했다. 3년 걸릴 것으로 예상했던 일이 12개월 만에 일어났다.”

제프 클라크 델 테크놀로지스 부회장은 19일(현지시간) 미국 라스베이거스 베네시안 호텔에서 열린 ‘델 테크놀로지스 월드 2026’ 2일차 기조연설에서 이같이 말했다.

그는 작년 같은 행사에서 본인이 내놓은 토큰 폭증 전망조차 보수적이었다고 솔직하게 인정했다.

클라크 부회장은 “12개월동안 모델 가격은 약 80% 하락했지만, 토큰 소비량은 10배 늘었다. 추론에서 비롯된 사용량은 320배 폭증했다”고 진단했다.

작년 한 해에만 전 세계적으로 100조개 토큰이 소비됐고, AI 컴퓨팅의 3분의 2는 학습이 아닌 추론에 사용되고 있다. 기업의 생성형 AI 소프트웨어 지출도 1년 만에 3배로 늘어 370억달러를 돌파했다.

그는 델 내부에서도 토큰 사용량이 폭증하고 있다고 고백했다. 그는 “엔지니어 그룹이 할당된 한달치 토큰을 몇 시간 만에 다 써버렸다”며 “고장난 것이 아니라 이것이 에이전트 시대의 성공적인 모습이다”라고 설명했다.

에이전트가 사람의 작업을 대신할수록 기업의 비용 구조는 인건비에서 토큰으로 이동하고 있다고 짚었다. 과거 기업이 분석이 더 필요할 때 분석가를, 코드가 더 필요하면 개발자를 채용해야 했지만 에이전트 AI가 이 비율을 영구적으로 깨뜨렸다는 진단이다.

클라크 부회장은 “5%의 직원이 AI를 통해 95%의 가치를 창출하는 비선형 생산성 구조가 자리잡고 있다”고 했다.

이어 “토큰 사용량 증가와 함께 기업에 청구되는 비용도 급증하고 있다”고 지적했다. 특히 개발자 1명이 클라우드 환경에서 하루 3400달러치 토큰을 소비해야 하는 문제를 4만5000달러짜리 로컬 워크스테이션에서 돌리면 토큰 비용은 0원이라고 강조했다.

델은 토큰 비용 문제 해결을 위한 ‘AI 네이티브 기업’의 다섯 가지 원칙을 제시했다. AI 친화적 데이터 기반을 구축하고, 학습과 추론을 모두 지원하는 분산 AI 인프라, 보안 자율 시스템, 응용프로그램인터페이스(API) 기반 통합 스택, 워크로드별 토큰 배분 최적화 등이다.

그는 특히 “어떤 토큰을 어디서 처리할지 결정하는 것이 향후 가장 중요한 인프라 의사결정 요인이 될 것”이라며 토큰 라우팅 개념을 핵심 화두로 제시했다.

이어 “AI 비용 모델에 컴퓨팅과 토큰소비를 모두 반영하고, 조직 내 ‘슈퍼유저’를 찾아 연구해 봐야 한다”며 “이는 운영 모델을 변화할지, 변화에 휩쓸릴지를 결정하는 아주 중요한 문제”라고 덧붙였다.

김남석 기자 kns@dt.co.kr