"AI값 떨어진다" 술렁인 월가...가격 전쟁의 진짜 의미 [빈난새의 빈틈없이월가]

토큰 단가 하락, 오픈AI 가격 인하 검토
AI CAPEX 수익성 논쟁 재점화
가격 하락 속 전체 사용량은 급증
'토크노믹스' 시대 AI 키워드는 '효율'

스페이스X의 역사적인 상장에 모든 관심이 쏠렸던 이번주, 월스트리트에서는 다른 데이터가 주목을 끌었습니다. 다시 하락세로 돌아선 인공지능(AI) 토큰 가격입니다. 앤스로픽, 오픈AI, 구글, 메타 등 AI 모델 기업과 하이퍼스케일러들은 AI 인프라에 더 많은 돈을 경쟁적으로 태우고 있지요. 그런데 정작 그 컴퓨팅 파워를 돌려서 뽑아낼 토큰의 단가가 최근 하락하고 있다는 것입니다. 이것은 AI 수요 둔화의 신호일까요?

실리콘데이터의 'LLM 토큰 지출 지수' 추이. 자료=블룸버그

토큰은 AI가 데이터를 처리할 때 쓰는 기본 계산 단위입니다. AI는 질문을 읽고 답을 만들고 코드를 짜는 과정에서 토큰을 소비하고, 앤스로픽이나 오픈AI 같은 모델 기업들은 API를 팔 때 이 입출력 토큰 사용량을 기준으로 과금합니다. 전기를 쓰면 전기요금이 나오는 것처럼, 토큰의 단가는 곧 AI를 한 번 돌리는 값인 셈입니다. 

이 값의 흐름을 숫자로 보여주는 것이 실리콘데이터의 'LLM 토큰 지출 지수'입니다. 전 세계 주요 대형언어모델(LLM)의 API 토큰 가격과 실제 사용량을 가중평균한 혼합 단가를 보여주는 지표입니다. 말하자면 AI 토큰 시장의 물가지수죠. 그런데 이 지수가 최근 뚜렷한 하락세로 돌아선 것입니다. 

실제 최근 미국 기업들 사이에서는 AI 토큰 비용 부담을 호소하는 목소리가 점점 커지고 있었습니다. 아마존은 사내에서 누가 가장 많은 토큰을 쓰는지를 훈장처럼 보여주던 '토큰 리더보드'를 없앴고, 마이크로소프트는 직원들의 클로드 코드 구독을 끊었다는 뉴스로 화제가 됐습니다. 우버는 "AI 토큰 지출을 정당화하기가 점점 어려워지고 있다"고 공개적으로 토로했고요. 생산성을 높이려면 토큰을 아낌없이 써야 한다던 '토큰맥싱(tokenmaxxing)'이, 어느새 성과 없이 돈만 태우는 행위라는 부정적 뉘앙스로 바뀌었습니다. 

"오픈AI와 앤스로픽의 수익성 압박을 가중시킬 AI 가격 전쟁이 시작됐다"고 보도한 월스트리트저널의 기사. 자료=WSJ

샘 알트먼 오픈AI CEO도 "기업 고객들이 갑자기 토큰 비용을 큰 문제로 느끼기 시작했다"고 인정했습니다. 그리고 바로 그 타이밍에 월스트리트저널은 오픈AI가 앤스로픽과의 사용자 쟁탈전을 앞두고 큰 폭의 토큰 가격 인하를 검토하고 있다고 보도했습니다. 그러면서 "AI 가격 전쟁이 시작됐다" "앤스로픽과 오픈AI의 수익성 압박을 가중시킬 것"이라고 주장했지요. AI가 정말 생산성을 높여주고 돈을 벌어다줄 기술인지, 비싼 토큰만 태우고 비용만 증가시키는 건 아닌지에 대한 시장의 의구심이 다시 고개를 든 것입니다. 

이 회의론의 눈으로 보면 토큰 단가 하락은 찜찜합니다. 엔비디아의 고성능 칩 B200의 임대료도 수개월째 제자리인데요. AI 수요가 정말 폭발적이라면 토큰 가격이 떨어지고, 최고급 GPU 임대료는 정체되고, 모델 기업들은 가격 인하 경쟁을 한다는 게 이상해 보입니다. 모델 기업들의 가격 결정력이 약해지고 있다면, 이들이 컴퓨트 확보를 위해 쏟아붓는 막대한 투자, 또 그들에게 연산력을 공급하는 하이퍼스케일러들의 천문학적인 자본지출(CAPEX)은 과연 수익을 낼 수 있겠느냐는 의심이 다시 커집니다. CAPEX 수익률 악화 → 투자 속도 조절 → 반도체 슈퍼사이클 고점 → AI 버블 붕괴. 투자자들이 가장 두려워하는 그림입니다.

5대 하이퍼스케일러의 매출 대비 설비투자 비율 추이 및 전망. 자료=모건스탠리

모건스탠리는 최근 이런 우려에 불을 더하는 분석을 내놨습니다. 아마존, 구글, 메타, 마이크로소프트, 오라클 등 5대 하이퍼스케일러의 매출 대비 설비투자 비율이 올해 36%, 내년엔 44%까지 치솟을 것으로 추정했는데요. 닷컴 버블 당시 통신 업종의 정점(32%)을 넘어서는 수준이라고 합니다. 여기에 구매 약정과 리스, 건설 중인 자산, 그리고 앞으로 반영될 감가상각 비용까지 고려하면 지금 숫자로 드러나지 않는 청구서는 훨씬 클 수 있다고 경고했습니다. 향후 몇 년에 걸쳐 본격적으로 현금흐름과 이익률을 갉아먹을 수 있다는 것입니다. 

하이퍼스케일러들은 AI 수요가 너무나 강하기 때문에 투자를 적게 하는 것이 더 큰 리스크라고 주장합니다. 실제 수주잔고는 CAPEX가 늘어나는 속도보다 더 빠르게 쌓이고 있습니다. 이들에게 설비투자는 그 수요를 하루빨리 매출로 전환하기 위해 필요한 수단일 뿐입니다. 그러나 그 매출과 이익이 숫자로 찍히기 전까지는, 설비투자 규모가 커질수록 시장은 투자수익률(ROI)을 더 깐깐하게 따질 수밖에 없습니다. 그리고 AI 토큰 단가 하락은 이런 회의론에 힘을 싣는 근거처럼 보입니다. 

하지만 같은 데이터를 정반대로 볼 수도 있습니다. 토큰 값이 내려가는 건 수요가 식어서가 아니라, 오히려 AI가 본격적으로 대중화되는 신호라는 것입니다. 실리콘데이터의 토큰 지출 지수는 LLM의 총 매출을 보여주는 지표가 아닙니다. 가격이 내려가도 사용량이 그보다 더 빠르게 늘면 총 매출은 오히려 커질 수 있습니다. 

세계 주요 LLM의 전체 토큰 소비량. 자료=오픈라우터

이 역시 데이터로 나타납니다. 오픈라우터의 모델별 토큰 사용량 데이터에 따르면 전체 토큰 소비량은 계속 우상향하고 있고, 구글은 최근 월 토큰 처리량이 3경2000조개로 1년 새 7배 늘었다고 밝혔습니다. 앤스로픽과 오픈AI의 연환산매출(ARR)도 가파른 증가세를 이어가고 있습니다. 줄어든 것은 '토큰당 가격'이지 '토큰의 양'이 아니라는 겁니다. 

이 흐름대로면 AI 시장은 값이 싸지면 오히려 더 많이 쓰는, 이른바 '제번스의 역설'이 이미 작동하고 있는 것처럼 보입니다. 제번스의 역설은 19세기 영국 경제학자 윌리엄 제번스가 발견한 현상입니다. 증기기관의 효율이 좋아지면 석탄 소비가 줄어들 것 같았지만, 실제로는 석탄을 쓰는 비용이 싸지면서 증기기관이 더 널리 보급돼 석탄의 총소비는 폭증했다는 겁니다. 범용 기술일수록 수요의 가격 탄력성이 높다는 것을 보여주는 현상이기도 합니다. 그렇다면 AI 토큰은 이미 '누구나 쓰는 범용 기술'로의 길을 밟고 있을 수 있습니다. 

오픈AI와 앤스로픽의 연환산매출(ARR). 자료=UBS

이제 중요한 질문은 토큰당 가격만이 아닙니다. 그 토큰으로 얼마나 많은 생산성을 만들어내느냐입니다. 젠슨 황 엔비디아 CEO가 줄곧 강조해온 '토큰 경제학(token economics)'의 논리입니다. 앤스로픽도 "기업들에게 중요한 건 '토큰당 가격'이 아니라 하나의 일을 처음부터 끝까지 해내는 데 얼마나 드는지, 즉 '작업당 가격'"이라고 설명합니다. 한 마디로 비용 효율성의 중요성이 더 커진다는 뜻입니다.

예전에는 얼리 어답터들이 100가지 일에 일단 가장 좋은 모델을 쓰고 봤다면, 이제는 더 많은 사람들이 100만 가지 일에 AI를 쓰고 싶어 합니다. 싼 일에는 싼 모델을, 비싼 모델이 값을 하는 일에는 최고 성능의 프론티어 모델을 쓰는 식으로 AI 자원이 더 정교하게 배분되기 시작했습니다. 토큰 사용량이 늘어나는데 단가는 떨어지는 현상은 이런 맥락에서 보는 게 더 정확할 수 있습니다. 

이 변화는 하드웨어와 소프트웨어 양쪽에 더 큰 수요를 만듭니다. 같은 전력과 같은 칩으로 더 많은 토큰을 생산할 수 있도록 AI의 효율성을 높여주는 CPU, 저전력 메모리, 칩간 연결, 광통신, 네트워크, 냉각 등의 중요성은 더 커집니다. 동시에 여러 모델을 섞어 쓰고, 업무별로 가장 적합한 모델을 배치하고, 데이터를 구조화해 AI가 효율적으로 쓰게 해주는 오케스트레이션 소프트웨어에 대한 수요도 늘어날 것으로 보입니다. 

결국 토큰 가격 전쟁은 AI 랠리의 끝을 알리는 신호라기보다 성격이 바뀌고 있다는 신호에 가깝습니다. 기업들의 투자 규모가 커질수록 AI의 생산성과 비용 효율성, 투자 수익성에 대한 시장의 검증은 더 매서워질 겁니다. 최근 나타난 조정과 같은 시장 변동성도 반복될 수 있습니다. 결국에는 승자와 패자도 갈릴 테지요. 그러나 적어도 아직은 AI의 수요를 걱정하거나, 물리적 인프라 구축 단계가 끝물이라고 볼 증거는 많지 않아 보입니다. 영상에서는 '토크노믹스'의 시대, AI 가격 전쟁을 둘러싼 논쟁과 양쪽의 근거를 보다 자세히 짚어봤습니다. 

뉴욕=빈난새 특파원 binthere@hankyung.com