"1조원 투자해서 만들긴 했는데"…AI 딜레마 빠진 기업들
“기업에 생성형 AI는 딜레마다. 투자 대비 수익이 날 수 없는 구조인데, 데이터 등 보안 이슈 때문에 다른 기업의 서비스를 가져다 쓰기도 어렵다.”
테크 업계 관계자가 전한 고충이다. 챗GPT가 촉발한 생성형 인공지능(AI) 열풍이 딜레마에 봉착했다. 막대한 투자와 높은 비용 부담이 필요한데, 수익모델이 뚜렷하지 않은 상황에서 사용자 확보까지 어렵다. 이 때문에 해외에서는 생성형 AI 열풍이 내년에 가라앉을 것이라는 전망이 나왔다.
“내년 생성형 AI 거품 꺼진다”
CNBC 등 외신에 따르면 시장분석기관 CCS 인사이트는 최근 연례 보고서를 통해 “내년에 생성형 AI 기술에 대한 현실적인 점검이 이뤄질 것”이라고 전망했다. 이 보고서는 “내년에 생성형 AI에 대한 거품이 빠질 것”이라며 “이를 실행하는 데 필요한 비용 부담과 규제가 증가하면서 생성형 AI 기술 성장이 둔화할 수 있다”고 분석했다.
가장 큰 장애물은 높은 비용이다. 생성형 AI의 기반이 되는 대규모언어모델(LLM)을 학습 및 운영하기 위해 슈퍼컴퓨팅이 필요한데 이와 관련한 비용 부담이 갈수록 커지고 있다. LLM 연산에 필수인 그래픽처리장치(GPU) 가격도 만만치 않다. 대표적인 GPU인 엔비디아의 H100 칩은 개당 4000만원에 달한다. 초거대 LLM을 구동하려면 H100 칩 수천 개가 필요하다. GPU를 구동하고 데이터센터를 운영할 전력 비용 부담도 어마어마하다. 챗GPT를 구동하는 LLM GPT-4의 경우 하루 9억원가량의 운영 비용이 드는 것으로 알려졌다.
특히 챗GPT의 경우 사용자 질문당 몇 센트의 비용이 든다고 알려져 있다. 스타트업이 이 같은 서비스를 개발하더라도 유지하기 어려운 구조이고 B2B가 아닌 개인용 서비스 시장에선 수익 실현이 어려울 수 있다는 전망도 나온다.
벤 우드 CCS 애널리스트는 “생성형 AI를 훈련하고 유지하는 데는 큰 비용이 든다”며 “빅테크는 어느 정도 감당할 수 있을지 몰라도 다른 기업과 많은 개발자에게 부담이 너무 크다”고 말했다.
빅테크들은 이 같은 문제를 해결하기 위해 B2B 시장을 겨냥하고 있다. 챗GPT 개발사 오픈AI가 최근 기업용 서비스 챗GPT 엔터프라이즈 버전을 내놓은 것이 대표적이다. 그동안 기업들은 챗GPT로 골머리를 앓았다. 직원들이 챗GPT를 사용할 때 회사 기밀이 유출될 수 있다는 우려 때문에 대기업 대부분은 챗GPT 서비스를 회사에서 사용할 수 없게 사이트를 차단했다. 이 같은 우려를 잠재우기 위해 보안성이 강화된 서비스를 출시한 것이다.
보안 이슈에 자체 LLM 만드는 기업들
하지만 이미 테크 기업들은 보안 이슈 등으로 자체 LLM 모델을 개발하고 나섰다. 애플과 아마존, 메타, 삼성, LG전자는 물론이고 통신사, 게임업체까지 자체 LLM 개발에 뛰어들었다.
블룸버그에 따르면 애플은 머신러닝·AI와 관련한 조직을 꾸리고 지난해 말 생성형 AI 기반 챗봇 ‘애플GPT’(가칭)를 구축했다. 업계에서는 애플이 내년 중 AI와 관련해 중대한 발표를 할 가능성이 있다고 전망한다.
일론 머스크 테슬라 최고경영자(CEO)는 지난 8월 AI회사 ‘xAI’를 출범시켰다. ‘xAI’의 경우 머스크가 오픈AI와 경쟁하는 회사를 만들겠다고 밝힌 지 불과 3개월 만에 나왔다. 머스크는 xAI의 첫 행보를 밝히면서 에너지 효율성을 차별화 포인트로 내세웠다. 현재 AI 개발은 무차별적으로 대량의 데이터를 학습하는 방식이지만, 성공하지 못하고 있어 이를 집중 공략하겠다는 구상이다.
네이버, 하이퍼클로바X 공개 이후 주가 21% 하락
한국 기업도 이 같은 고민을 안고 있는 건 마찬가지다. 최근에는 국내 대표 빅테크인 네이버의 ‘한 방’마저 통하지 않았다. 네이버는 지난 8월 24일 생성형 AI 모델 하이퍼클로바X를 세상에 내놨다. 챗GPT 등장 후 격화되는 생성형 AI 전선에 본격적으로 뛰어든 것이다. 하지만 시장의 반응은 미지근했다. 네이버가 하이퍼클로바X를 공개한 당일 주가는 6%대 급등했지만, 다음 날 곧바로 상승분을 반납했다. 22만9000원이었던 주가는 10월 20일 18만200원까지 떨어지며 두 달 새 21%가량 하락했다.
슈퍼컴퓨팅과 GPU에 들어가는 막대한 투자비용과 운영비용 대비 성과가 나기 어려운 구조라는 평가가 잇따랐기 때문이다. 네이버는 매출의 22%를 R&D에 투자한다. 특히 최근 5년간 AI에 대한 네이버의 누적 투자 규모는 약 1조원에 달한다. 네이버가 ‘하이퍼클로바X’를 공개한 날에도 수익성에 대한 질문이 이어졌다.
네이버는 한국 시장을 집중 공략하는 기업에 네이버의 한국어 특화 모델이 유의미하게 작용할 것이라고 기대했다. 국내 시장을 집중 공략한 뒤 해외 진출을 노린다는 전략도 내놨다. 수익화는 B2B 전략에 방점이 찍혀 있다. 최수연 네이버 대표는 서비스를 공개하는 자리에서 “B2B를 모델 수익화하면서 검증해 나가겠다”며 “B2C에서 (네이버의) 전제는 모든 기술적인 전환기를 거쳤을 때 비용이 올라가는 일이 상당히 있었지만, 결과적으로 서비스 경쟁력으로 연결되면 수익으로 연결되는 경험이 있었다”고 강조했다.
카카오는 연말에 생성형 AI ‘코GPT 2.0’을 내놓을 예정이라고 밝혔다. 그러나 구체적 일정이 확정되지 않아 시장 기대감이 점점 줄어들고 있다는 평가가 나온다.
1, 2위 국가나 기업이 AI 사용자와 생태계를 모두 장악하는 ‘승자독식’ 구조에서 글로벌 기업과 경쟁해야 하는 것도 국내 기업의 숙제다.
한국경제인협회(이하 한경협)는 국가별 AI 산업 수준을 비교한 ‘글로벌 AI 지수’를 분석한 결과, 한국의 AI산업 수준은 지난 4년간 개선됐으나 여전히 보완이 필요하다고 밝혔다.
영국 토터스인텔리전스가 발표하는 ‘글로벌 AI 지수’에 의하면, 우리나라의 AI산업 수준은 62개국 중 종합순위 6위를 차지했다.
글로벌 AI 지수가 높은 국가는 미국과 중국으로 나타났다. 미국은 AI 인재 확보와 인프라 구축 등 총 5개 부문에서 1위를 차지하며 종합 1위에 등극했다. 중국은 인재 확보와 인프라 구축, 특허(개발) 등에서 2위를 차지하며 종합 2위를 차지했다.
미국과 중국의 양강체제가 뚜렷한 가운데 국내 AI산업에서 가장 부진한 부문은 AI 관련 민간투자인 것으로 드러났다.
AI 기업 수 및 투자 규모 등을 의미하는 민간투자 부문에서 한국은 18위를 차지하며 총 7개 부문 중 최저 순위를 기록했다. 민간투자 부문의 세부 항목인 AI 관련 상장기업 수에서 한국은 총 6개 기업으로 11위를 차지해 미국(172개)과 중국(161개)에 크게 밀렸다.
AI 설명요구권 등 관련 정책 역시 미비한 것으로 나타나 AI산업 육성의 기반이 될 ‘AI 기본법’의 조속한 입법이 필요한 것으로 지적됐다. AI 설명요구권이란 서비스 이용자가 AI의 의사결정 원리(알고리즘)에 대해 의심될 경우, 서비스 제공자에게 이에 대한 설명을 요청할 수 있는 권리 등을 말한다.
데이터 사이언티스트 및 엔지니어 등 인재 확보 부문 역시 20위를 차지하면서 AI 관련 데이터분석 인재가 부족한 것으로 드러났다. AI 민간투자 활성화를 위해 부족한 인재와 데이터 활용 전반의 규제에 대한 개선이 필요하다는 분석이다.
자체 AI 모델이 없는 국가는 다른 나라의 AI에 의존할 수밖에 없다. AI 업계 관계자는 “초거대 AI를 학습하기 위해서는 슈퍼컴퓨팅에 어마어마한 돈이 들어가는데, 스타트업은 시도조차 할 수 없는 규모라 정부의 지원과 대기업-스타트업 간 생태계 확장이 필수인 시장”이라고 말했다.
규제완화와 인재 양성에 대한 제언도 나왔다. 추광호 한경협 경제산업본부장은 “국내 인재 양성은 물론 비자 규제완화 등을 통해 해외 고급인재도 적극 영입해 인력 부족 문제를 시급히 해결해야 한다”며 “데이터 정보 활용을 위해 개인정보보호법과 신용정보법의 규제완화를 통한 민간투자도 활성화해야 한다”고 강조했다．
김영은 기자 kye0218@hankyung.com
Copyright © 한경비즈니스. 무단전재 및 재배포 금지.