챗GPT 하루 유지 비용만 9억 원…"내년 생성형 AI 거품 빠질 것"

CCS인사이트 전망 "현실적 점검 이뤄질 것"

챗GPT와 같은 생성형 인공지능(AI) 기술에 대한 관심이 커지고 있다. 게티이미지뱅크

챗GPT와 같은 생성형 인공지능(AI) 기술이 내년에는 거품이 빠질 수 있다는 관측이 나왔다. 생성형 AI에 투자한 기업 대부분이 수익을 실현하지 못한 상황에서 막대한 개발 비용을 쏟아부어야 하기 때문이다.

11일 시장분석기관 CCS인사이트는 연례 보고서를 통해 "내년에 생성형 AI 기술에 대한 현실적 점검이 이뤄질 것"이라고 전망했다. 이 보고서는 "생성형 AI를 실행하는 데 필요한 비용 부담과 규제가 증가하면서 기술 성장이 주춤거리고 거품이 빠질 수 있다"고 짚었다.

생성형 AI의 가장 큰 문제점은 엄청난 개발 비용이다. 거대언어모델(LLM)을 개발하고 운영하려면 안정적 서비스 제공을 위한 그래픽처리장치(GPU) 서버 인프라가 필요하다. LLM 연산에 필수적인 GPU로 꼽히는 엔비디아의 H100칩은 개당 4,000만 원에 달하는데 초거대 LLM 구동을 위해선 수천 개가 필요하다. 초기 투자 비용만 수백억 원이 필요한 셈이다.

LLM은 전력 소모량이 많아 유지 비용도 만만찮다. 챗GPT를 구동하는 LLM GPT-4의 경우 하루 9억 원가량이 필요한 것으로 알려졌다. 유료 구독 서비스를 운영해도 비용 부담이 큰 상황이다. 이 때문에 벤 우드 CCS 애널리스트는 "생성형 AI를 훈련하고 유지하는 데 큰 비용이 드는데 빅테크는 어느 정도 감당할 수 있을지 몰라도 다른 기업과 많은 개발자에게 부담이 너무 크다"고 지적했다.

AI 기술을 둘러싼 규제도 장애물이 될 수 있다. 유럽연합(EU)이 AI의 무단 사용을 제한하는 인공지능법을 추진하는 게 대표적 사례다. 다만 보고서는 "AI의 발전 속도 때문에 EU가 구체적인 규정을 도입하더라도 여러 차례 바뀔 가능성이 많다"며 "내년 말까지 법안이 확정되지 않아 업계가 자율 규제에 나설 가능성이 높다"고 전망했다.

김지현 기자 hyun1620@hankookilbo.com