AI 훈련 비용 3년 동안 18배 폭증…"나스닥 쇼크 이유 있네"

GPT-3에서 GPT-4 훈련 비용 18배 증가
데이터센터·반도체·인력·클라우드 투입 ↑

미국 빅테크에 대한 실적 우려로 증시가 폭락하면서 '인공지능(AI) 거품론'이 확산되고 있다. AI 개발에 들어가는 비용이 초기에 비해 기하급수적으로 늘어나고 있지만 이를 상쇄할만한 수익 창출은 여의치 않은 상황을 업계 안팎에서 깨닫기 시작했다는 평가가 나온다.

AI 기업의 수익성에 대한 의문 기저에는 천문학적인 비용이다. 26일 미 스탠퍼드대 인간 중심 AI 연구소(HAI)의 '스탠퍼드 AI 인덱스 2024' 보고서를 보면 AI 모델의 추정 훈련 비용은 크게 늘었다. 오픈AI를 예로 들면 2020년에는 생성형 AI GPT-3 모델에 대해 432만달러(약 60억원) 규모의 비용을 투입했는데, 지난해 GPT-4 모델 훈련에는 7835만달러(약 1085억원)에 달했다. 3년 만에 18배가 뛴 것이다.

HAI가 집계한 AI 모델 중 가장 많은 훈련 비용이 들어간 것은 구글의 제미나이 울트라로 1억9140만달러(약 2650억원)로 집계됐다. 2017년 생성형 AI의 기초적 형태였던 트랜스포머 모델에는 930달러(약 130만원)의 비용이 투입됐다.

AI 모델에 들어가는 비용이 부담으로 작용하는 건 자본 투입이 훈련 분야에만 국한되지 않기 때문이다. 데이터센터 건립과 반도체 구매, 인력 채용, 클라우드 지원 등 인프라와 관련된 곳에도 투자가 급증하고 있다. 클라우드에 투입만 비용만 살펴봐도 이런 추세를 읽을 수 있다. 시장조사기관 IDC에 따르면 올해 1분기에만 클라우드 인프라에 대한 글로벌 총지출이 전년 동기보다 37%가량 늘어 330억달러(약 45조7000억원)로 파악됐다.

민간 투자 규모는 AI 발전을 이끄는 미국에서 특히 두드려졌는데 2013년부터 지난해까지 AI에 대한 총 투자 비용이 3352억4000만달러(약 464조6000억원)를 기록했다. 중국(1036억5000만달러), 영국(222억5000만달러), 이스라엘(128억3000만달러), 캐나다(105억6000만달러) 순이었다. 한국은 8위 프랑스(83억1000만달러)에 이어 72억5000만달러로 확인됐다.

AI 개발에 막대한 비용이 투입되고 있지만 성과를 보이는 기업은 제한적이다. 구글은 올해 2분기 자본 지출 132억달러를 기록해 전문가 예상보다 8% 초과했다. 이는 생성형 AI 지원에 필요한 인프라 투자가 늘어났기 때문인데 지출이 향후 발생할 매출에 비해 너무 높은 것 아니냐는 우려까지 나왔다. 미국의 자산관리회사 시노버스 트러스트 소속 대니얼 모건 수석 포트폴리오 매니저는 "투자자들이 AI에 투자한 수십억 달러에 대한 명확한 투자 수익률 증거를 찾고 있다"며 "(구글이) AI로부터 얼마나 많은 이익을 얻고 있는가. 보고서를 보면 이전처럼 구글은 광고와 검색을 통해 수익을 얻고 있다"고 꼬집기도 했다.

막대한 자본의 투하가 가능한 빅테크에서도 성과가 나타나지 않으면서 규모가 더 작거나 스타트업의 경우 상황이 더 어렵다. 국내에서 주목받는 AI 기술 기업인 업스테이지의 경우에도 지난해 기준 매출액이 46억원, 영업손실 189억원을 기록했다.

기술 측면에서도 아직 보완해야 할 점이 많다. HAI는 "AI는 이미지 분류, 시각적 추론, 영어에 대한 이해 등 여러 벤치마크에서 인간을 능가하고 있다"면서도 "시각에서의 상식 추론, 계획 수립, 높은 레벨의 수학에서는 뒤처져있다"라고 진단했다.

AI 수익성에 대한 의심은 미 증시에서 국내로도 번졌다. AI반도체의 핵심 메모리인 고대역폭메모리(HBM) 선두주자인 SK하이닉스는 6년 만에 최대 실적을 달성했지만 25일 기준 주가는 8.87% 급락했다.

다만 기술 효율성 높아지는 상황이 현실화하면 수익성 개선이 가능할 것으로 기대하고 있다. 업계 관계자는 "자본적 지출의 짐이 계속해서 커지면 빅테크 손익분기점 도달이 늦어지고 현금 흐름이 곤란해져 스타트업에도 영향이 미치게 된다"면서도 "안정적인 궤도에 오르는 시점까지 단단한 기초 체력과 강한 비전을 가진 기업과 스타트업만이 살아남는다"고 했다. 그러면서 "비용을 줄이기 위한 연구는 이미 많이 진행되고 있고 동일한 크기의 AI 모델을 학습시킬 때 필요한 비용도 초기와 비교할 때 10배 가까이 줄어들어 수익성은 장기적으로 좋아질 것"이라고 내다봤다.

이정윤 기자 leejuyoo@asiae.co.kr