[AI는 지금] 비싼 오픈AI·앤트로픽…美 기업들, 오픈 모델로 눈 돌린다

기업 AI 비용 급증에 오픈웨이트 확산…금융·물류·통신서 지속 확대 추세

(지디넷코리아=한정호 기자)미국 기업들이 오픈AI와 앤트로픽의 최첨단 인공지능(AI) 모델 대신 비용이 저렴한 오픈웨이트 모델로 눈을 돌리고 있다. AI 활용이 늘면서 기업의 관련 비용도 빠르게 불어나자 자체 인프라에서 운영하고 목적에 맞게 조정할 수 있는 오픈 모델이 대안으로 떠오르는 모습이다.

27일(현지시간) 파이낸셜타임즈에 따르면 미국 기업들 사이에서 오픈웨이트 AI 모델 도입이 빠르게 확산되고 있다.

기술기업뿐 아니라 금융사 PNC파이낸셜서비스, 물류기업 CH로빈슨, 산업기업 지멘스 등 다양한 업종에서 최근 오픈웨이트 모델 활용을 논의 중인 것으로 전해졌다.

미국 기업들 사이에서 오픈웨이트 모델 도입이 증가하고 있다. (사진=클립아트코리아)

오픈웨이트 모델은 AI 모델을 구성하는 핵심 매개변수를 공개해 기업이 직접 내려받아 자체 하드웨어에서 구동하거나 필요에 맞게 미세조정할 수 있는 모델이다.

모델 개발사에 사용량에 따른 토큰 비용을 계속 지불해야 하는 폐쇄형 모델과 비교해 운영비를 크게 낮출 수 있다는 점이 강점으로 꼽힌다.

기업들의 관심도 빠르게 높아지고 있다. 시장조사업체 알파센스에 따르면 지난 8~9월 기업 실적발표와 투자자 행사에서 오픈웨이트 또는 오픈소스 모델이 언급된 횟수는 전년 동기 대비 6배 증가했다.

클라우드 플랫폼 기업 버셀의 AI 게이트웨이에서 처리된 전체 토큰 가운데 오픈웨이트 모델 비중도 지난해 12월 7%에서 올해 8월 56%까지 상승했다.

특히 중국 AI 기업들이 오픈웨이트 시장에서 영향력을 확대하고 있다. 딥시크와 지푸AI 등이 대표적이며 프랑스 미스트랄과 미국 리플렉션AI, 싱킹머신스랩 등도 개방형 방식의 모델을 개발 중이다.

오픈AI와 앤트로픽도 중국 기업들과 가격 경쟁이 치열해지자 최근 주력 모델의 저가형 제품을 내놨다.

기업들이 오픈 모델을 찾는 가장 큰 이유는 비용이다. 매치그룹이 운영하는 데이팅 앱 틴더는 AI 비용을 관리하기 위해 일부 비기술 사용자들의 요청을 오픈웨이트 모델로 처리하기 시작했다. 틴더의 AI 관련 지출 속도는 지난 1월 연간 100만 달러 수준에서 7월 1000만 달러 수준으로 불과 반년 만에 10배 뛰었다.

통신업계에선 오픈 모델 활용 비중을 더 공격적으로 높이고 있다. AT&T는 현재 전체 AI 워크로드의 약 40%를 오픈 모델로 운영 중이며 향후 1년 안에 이를 70%까지 높일 계획이다. 하루 처리량이 450억 토큰에 달하는 만큼 모델 사용 비용을 낮추는 것이 중요한 과제로 떠올랐기 때문이다.

AT&T는 자사 데이터를 활용해 오픈 모델을 미세조정하는 방식도 활용 중이다. 특정 업무에선 조정한 오픈 모델이 폐쇄형 모델과 비슷하거나 더 높은 성능을 낼 수 있다는 설명이다.

기업 입장에선 모든 업무에 고성능 모델을 사용하는 대신 작업 난도와 비용에 따라 여러 오픈웨이트 AI 모델을 선택할 수 있는 여지가 커졌다.

비용뿐 아니라 데이터 보안과 주권 문제도 오픈 모델 확산을 이끌고 있다. 데이터센터 기업 디지털리얼티는 자체 인프라에서 오픈웨이트 모델을 구동하는 내부 챗봇을 구축했다. 업무 민감도와 복잡성에 따라 오픈 모델과 상용 폐쇄형 모델을 함께 사용 중이며 고객 데이터 등 민감한 정보는 외부 최첨단 모델에 입력하지 않는다는 방침이다.

앤디 마커스 AT&T 최고데이터·AI책임자는 "하루 450억개의 토큰을 처리하는 규모에선 비용이 매우 중요하다"며 "정확도를 유지할 수 있다면 비싼 폐쇄형 모델 대신 훨씬 저렴한 오픈 모델을 적극 활용할 것"이라고 밝혔다.

한정호 기자(jhh@zdnet.co.kr)