“성과급도 토큰으로”...세계 IT 산업 뒤흔드는 ‘토큰 경제’ [뉴스 쉽게보기]

젠슨 황 엔비디아 최고경영자(CEO). <로이터연합뉴스>

“우리가 최적화 중인 핵심 지표는 와트당, 달러당 토큰이다.” <올해 1월, 사티아 나델라 마이크로소프트 CEO>

“와트당 토큰, 달러당 토큰이 궁극적으로 중요한 지표다.” <올해 3월, 젠슨 황 엔비디아 CEO>

혹시 요즘 ‘토큰’이라는 단어를 접해보신 적이 있나요? 요즘 세계 정보기술(IT) 업계에서 가장 주목받는 용어예요. 토큰을 빼놓고는 업무 이야기를 하기 힘들 정도라고 해요. 세계적 기업인 마이크로소프트와 엔비디아 최고경영자(CEO)가 콕 집어 ‘핵심 지표’로 언급했다는 사실은 ‘토큰’이 놓치지 않아야 할 개념이라는 걸 알게 해요.

토큰(Token)은 다양한 분야에서 사용되는 말이에요. 징표나 상품권처럼 특정한 가치를 지닌 단위를 뜻하죠. 오래전에 한국에서 쓰였던 동전 모양 버스 탑승권도 토큰이고, 가상자산 업계에서는 특정 자산을 여러 개로 쪼개서 발행하는 걸 ‘토큰화’로 부르기도 해요.

‘빅테크’로 불리는 거대 IT 기업들이 주목하는 토큰은 인공지능(AI) 모델이 데이터를 처리하고 생성하는 데 사용하는 정보 조각이에요. 어떤 데이터를 처리할 때 AI는 최소 단위로 쪼개서 다루는데, 이게 바로 토큰인 거죠. AI 모델에 따라 다르긴 하지만, 한글의 경우 보통 1~1.5 음절이 토큰 1개를 구성한다고 해요. AI에게 “경제가 궁금해”라고 물으면, 4~6개 토큰으로 처리된다는 의미예요.

토큰이 왜 중요한데?

AI 모델의 기본 연산 단위인 토큰은 AI 기업들이 사용자들에게 비용을 청구하는 기준이 된다는 점에서 아주 중요해요. AI가 사용자의 요청에 답하거나 각종 업무를 처리하려면, 데이터센터를 활용해 연산과 추론을 거치게 되는데요. 이 데이터센터가 연산·추론할 수 있는 데이터 규모는 한정적이에요. 각종 반도체와 장비를 채워 데이터센터를 짓고, 막대한 전력을 써서 유지해야 하니 비용이 만만치 않은 건 당연하고요.

AI 기업들은 데이터센터에 투자한 비용과 유지비를 적절히 계산해서 사용자에게 요금을 부과해요. 요즘처럼 빠르게 AI 사용량이 늘어나 토큰이 부족한 상황에선 토큰을 많이 쓰는 사용자에게 더 많은 요금을 매길 수밖에 없겠죠. 최근 토큰을 일종의 ‘디지털 연료’에 비유하는 것도 이런 특성 때문이에요. AI를 작동시키려고 유한한 자원인 연료를 구매해 쓰는 셈이라는 거예요.

올해 초부터 토큰 사용량은 폭발적으로 증가하고 있어요. AI가 점점 더 복잡한 일을 수행하고, 얼마 전 디그에서도 소개해 드렸던 AI 에이전트의 도입이 본격적으로 이뤄지기 시작했기 때문이에요. 다양한 업무를 인간 대신 스스로 처리하는 AI 에이전트는 챗GPT·제미나이·클로드 등 채팅 명령에 답하는 ‘생성형 AI’보다 최대 100만 배에 달하는 토큰을 쓰는 것으로 알려졌어요. 일을 하면서 쉴 새 없이 토큰을 소비한다는 거죠.

열리기 시작한 ‘토큰 경제’

앞서 오늘의 이야기를 시작하며 언급했던 마이크로소프트와 엔비디아 CEO의 말을 기억하시나요? 두 사람이 공통으로 지목한 핵심 지표는 ‘와트(W)당 토큰’과 ‘달러당 토큰’이었는데요. 결국 AI 연산력에 해당하는 토큰을 생산할 때 ‘얼마나 전력을 효율적으로 쓰는지’(와트당 토큰), 그리고 ‘얼마나 더 적은 비용을 쓰는지’(달러당 토큰)가 정말 중요해졌다는 뜻이에요.

데이터센터에 들어가는 핵심 장치인 그래픽처리장치(GPU)를 공급하는 엔비디아의 젠슨 황 CEO는 “우리의 토큰당 비용은 세계에서 가장 저렴하다. 더 나은 것은 없다”라는 말로 엔비디아의 독보적 경쟁력을 강조하기도 했어요.

거대 기업들이 고성능 AI 개발과 운영을 위해 데이터센터에 투자하고 있다는 건 익히 들어보셨을 거예요. IT 기업 CEO들의 발언으로 이제는 ‘더 적은 전력, 더 작은 비용으로 데이터를 처리하는 것’이 중요한 시대로 접어들고 있다는 걸 알 수 있어요. 황 CEO는 “전력이 제한된 데이터 환경에서 더 많은 토큰을 생성할 수 있으면, 곧 매출 증가로 직결된다”고 말했어요. 이른바 ‘토큰 경제’가 기업의 경쟁력을 결정하는 시대가 열리기 시작한 거예요.

개발자가 아니라 지휘자?

AI 데이터센터에 반도체·전력 장비를 공급하는 기업이나, 직접 데이터센터를 지어서 운영하는 기업이 아니라도 토큰 경제는 정말 중요하게 작용해요. 가장 먼저 큰 영향을 받은 건 AI를 적극적으로 쓰는 IT업계 사람들이에요. 특히 개발자들 사이에는 토큰 사용량으로 업무 성과를 평가하는 분위기도 형성됐어요.

AI 도구가 워낙 발달해서 이제 개발자들은 직접 코딩을 하지 않아요. 직접 코딩을 하는 대신 AI를 잘 지휘해서 일을 처리하는 게 일상적 업무가 됐죠. 오픈클로(OpenClaw) 같은 AI 에이전트들이 도입되면서, AI는 인간 사용자가 자리를 비우거나 잠든 시간에도 여러 AI를 조합해서 일할 수 있게 됐어요.

기업들이 빠르게 코드를 쓰는 개발자 대신, 여러 AI 에이전트를 다뤄가며 엄청난 양의 토큰을 쓰는 ‘지휘자’를 원하게 된 이유예요. 영어로는 ‘오케스트레이터(Orchestrator)’라는 표현을 많이 써요. 능력만 있다면 혼자서도 많은 토큰으로 엄청난 결과물들을 만들 수 있기에 등장한 표현이에요.

미국 주요 언론인 뉴욕타임스(NYT)에 따르면, 메타와 오픈AI 등 여러 IT 기업의 개발자들은 사내에서 누가 더 많은 토큰을 쓰는지 경쟁하기도 했대요. 회사에서 직원들의 토큰 사용량을 실시간으로 집계하는 도구를 만들었기 때문이에요. 직원들의 AI 사용량 순위를 매긴 거예요. 토큰을 쓰는 만큼 일을 했다는 인식이 자리 잡았다는 걸 알 수 있죠.

실제로 젠슨 황 CEO는 “만약 50만 달러(약 7억 원)를 받는 엔지니어가 최소 25만 달러 상당의 AI 토큰을 소비하지 않는다면 걱정스러운 일”이라며 “엔지니어들에게 기본급의 절반에 해당하는 토큰을 추가로 지급하는 방안을 고려해야 한다”고 말하기도 했어요. 토큰을 일종의 성과급처럼 지급함으로써 개발자들이 토큰을 더 적극적으로 쓰도록 유도하겠다는 취지예요.

문화가 된 ‘토큰 맥싱’

이런 인식은 토큰을 무조건 많이 사용하는 현상으로 이어졌어요. 거대 IT 기업들이 모여 있는 미국 실리콘밸리에서는 토큰을 회사가 허용하는 최대치로 사용한다는 뜻의 ‘토큰 맥싱’(Tokenmaxxing)이 빈번해졌다고 해요. 토큰을 많이 쓰는 사람이 일을 많이 하는 것처럼 보이니, 일부러 토큰을 낭비한다는 뜻이에요. 업무에 필요 없는 작업을 AI에게 시킨 뒤 그냥 폐기하는 사례까지 있다고 해요. 업무를 효율적으로 처리하려고 쓰는 AI가 결국 엄청난 비효율을 불러온 셈이에요. 이런 문제를 인지한 뒤 메타의 경우 직원의 토큰 사용량 공개를 중단했어요.

그나마 메타 같은 미국의 거대 IT 기업들은 이런 토큰 비용을 감당할 수 있어서 상황이 괜찮은 편이에요. 토큰을 사용하는 만큼 오픈AI(챗GPT)나 앤트로픽(클로드), 구글(제미나이) 등 기업에 요금을 지불해야 하는 수많은 기업이 토큰 비용의 부담에 시달리기 시작했기 때문이에요. 기업들은 난이도가 쉬운 작업은 이용료가 저렴한 AI 모델에 맡기고, 복잡한 작업만 고성능 AI를 쓰는 등 ‘토큰 가성비’를 올리려고 노력하는 분위기예요.

IT 전문매체인 디인포메이션에 따르면 메타 직원들의 한 달 토큰 사용량은 60조 2000억 개에 달했는데요. 앤트로픽이 부과하는 요금제를 기준으로 계산하면, 무려 9억 달러(약 1조 3200억 원)어치에 달해요. 이제 실리콘밸리에서 직원 한 명이 받는 연봉보다 해당 직원이 AI 토큰 비용으로 쓰는 돈이 많은 사례는 흔해졌대요.

AI 산업계는 ‘효율적인 토큰 생산과 사용’을 새로운 경쟁력 지표로 삼은 모양새예요. 앞으로 토큰 경제가 세상을 어떻게 바꿔놓을지, 우리의 일을 크게 바꾸지는 않을지 지켜봐야 하지 않을까요?

매일경제 ‘디그(dig)’팀이 연재하는 <뉴스 쉽게보기>는 술술 읽히는 뉴스를 지향합니다. 복잡한 이슈는 정리하고, 어려운 정보는 풀어서 쉽게 전달하겠습니다. ‘디그 구독하기’를 검색하고, 정성껏 쓴 디그의 편지들을 무료로 만나보세요. 아래 주소로 접속하시면, 디그 홈페이지로 연결됩니다. https://dig.mk.co.kr/