"비용 폭등에 비명"…美 기업들, AI '무제한 사용'에 브레이크

인공지능(AI) 열풍 속에서 막대한 컴퓨팅 비용 청구서를 받아 든 미국 주요 기업들이 결국 AI 사용량 제한에 돌입한 것으로 나타났다. 초기 투자 성과를 증명해야 하는 경영진의 압박이 커지는 가운데, 천정부지로 치솟는 비용을 통제하기 위한 고육지책으로 풀이된다.

 연간 예산 석 달 만에 바닥 

월스트리트저널(WSJ)은 최근 AI 컴퓨팅의 기본 단위인 '토큰(Token)' 사용 비용이 폭등하면서 우버, 메타, 마이크로소프트(MS), 세일즈포스 등 주요 글로벌 기업들이 AI 도입 속도를 조절하거나 직원들의 무분별한 사용을 제한하기 시작했다고 지난 5월 28일(현지시간) 밝혔다.

올해 초까지만 해도 많은 대기업 경영진은 월가(Wall Street)에 뒤처지지 않는다는 신호를 보내기 위해 직원들에게 AI 도구 활용을 적극 독려했다. 이에 직원들 사이에서는 AI를 최대한 많이 사용해 트렌디함을 증명하려는 이른바 '토큰맥싱(Tokenmaxxing)' 현상까지 나타났다.

그러나 AI 모델 공급업체들이 무제한 구독제에서 실제 사용량 기반 요금제로 개편하면서 비용이 기하급수적으로 늘었다. 일부 기업은 연간 AI 예산을 불과 3개월 만에 탕진하거나, 월 청구서가 2~3배 이상 불어나는 충격을 겪은 것으로 알려졌다.

코딩 자동화 스타트업 팩토리(Factory)의 최고경영자(CEO) 마탄 그린버그는 WSJ와의 인터뷰에서 "한 대형 금융기관의 경우 직원들이 간단한 질문이나 사소한 잡담에까지 최고급 프리미엄 AI 모델을 사용하면서 한 달에 수십만 달러를 낭비하고 있었다"며 "딸의 수학 과외를 위해 알베르트 아인슈타인을 고용할 필요는 없다"고 꼬집었다.

비용 압박이 현실화되자 테크 공룡들도 일제히 통제에 나섰다.

WSJ에 따르면 우버는 올해 3월 이미 자율형(Agentic) AI 사용을 위한 연간 예산을 전액 소진한 것으로 나타났다. 메타의 앤드루 보스워스 최고기술책임(CTO)은 지난 4월 사내 메모를 통해 "단순히 사용하기 위해 AI를 쓰는 일은 없어야 한다"며 "토큰 사용량 자체가 성과를 의미하는 것은 아니다"라고 경고했다.

마이크로소프트는 일부 직원들의 앤스로픽(Anthropic) 프로그램 접근을 제한하고 내부 코딩 어시스턴트 활용을 유도했다. 다만 MS 측은 이러한 결정은 비용이 아닌 사내 도구 표준화 목적이라고 설명했다.

세일즈포스는 토큰 소비가 실제 사업 성과로 이어지는지 추적하는 시스템을 전격 도입했다.

상황이 이렇다 보니 기업들은 상대적으로 저렴한 오픈소스나 중소형 모델로 눈을 돌리고 있다.

구글, 오픈AI, 앤스로픽 등도 핵심 모델의 저가 버전을 출시하며 대응 중이다. 다만 가장 저렴한 옵션 중 일부가 중국에서 개발되어 보안 우려로 도입을 꺼리는 기업도 많은 실정이다.

여기에 AI가 뱉어낸 결과물을 수정하고 검토하는 데 드는 배후 비용이 여전히 높다는 점도 기업들의 고민을 깊게 만들고 있다. 스타트업 엔텔리전스AI(EntelligenceAI)가 고급 AI 코딩 도구를 사용하는 2000여 개 기업의 데이터를 분석한 결과, 토큰 지출 비용 중 실제 최종 사용자에게 도달하는 코딩 상품으로 연결되는 비율은 단 18%에 불과한 것으로 조사됐다.

일각에서는 이러한 비용 통제 움직임이 올해 상장을 앞둔 앤스로픽이나 오픈AI 같은 AI 선두 주자들의 성장세에 걸림돌이 될 수 있다고 지적한다. 앤스로픽은 최근 65억 달러 규모의 투자 유치를 마무리하며 기업 가치 9650억달러를 기록한 바 있다.

반면 일시적인 조정기일 뿐이라는 반론도 있다. 자산운용사 프라임 캐피털 파이낸셜의 최고투자책임자(CIO) 윌 맥고프는 "AI 도입은 아직 극초기 단계에 머물러 있다"며 "거대 기업들조차 이제 막 효율적인 활용법을 찾아가는 과정"이라고 진단했다.

정채희 기자 poof34@hankyung.com