챗GPT가 먼저 쓰고, 클로드가 한번 더 다듬고 … "김대리, 이번 보고서 좋았어"

기업들도 멀티모델 전환 활발
작업별로 최적의 모델 조합
CIO 37%는 "5개 이상 사용"
다양한 AI 모델 연결해주는
플랫폼 시장도 빠르게 성장

기업들이 인공지능(AI)을 하나가 아닌 여러 모델을 동시에 활용하는 '멀티 모델' 전략으로 빠르게 전환하고 있다. 현장에서는 AI 모델의 성능 차이가 줄어든 만큼 작업별로 최적의 모델을 조합해 쓰는 방식이 새로운 표준으로 자리 잡는 흐름이다.

최근 마이크로소프트(MS)는 오피스용 AI 서비스 '코파일럿'에 서로 다른 AI 모델을 함께 사용하는 기능을 도입했다. 특정 모델이 정보를 수집하면 다른 모델이 이를 검증하는 구조다. 같은 질문에 대해 여러 모델의 답변을 동시에 비교하는 기능도 추가됐다. 하나의 AI에 의존하지 않고 결과를 교차 검증하는 방식이다.

예를 들어 오픈AI의 '챗GPT' 가 보고서를 작성하면 앤스로픽의 '클로드' 가 이를 검토해 결과를 개선하는 식이다. 이 과정에서 검토 모델은 정보 출처의 신뢰성, 보고서 구성의 완성도, 주요 주장에 대한 근거 여부 등을 점검하며 오류를 줄이고 품질을 높이는 역할을 한다.

이 같은 흐름 속에서 여러 AI 모델을 연결해 주는 플랫폼 시장도 빠르게 성장하고 있다. 스타트업 오픈라우터는 300개 이상의 AI 모델을 한 번에 사용할 수 있는 서비스를 제공하며 기업 고객을 확대하고 있다. 모델별 성능과 비용, 속도를 비교해 최적의 조합을 찾도록 돕는 것이 핵심이다. 미국 정보기술(IT) 전문 매체 더 인포메이션에 따르면 오픈라우터의 연간 환산 매출은 5000만달러(약 741억원)를 넘어섰고, 기업 가치는 13억달러(약 1조9300억원)에 달한다.

개발자 현장에선 글쓰기나 요약에는 하나의 모델을 쓰고, 검증이나 계산에는 다른 모델을 활용하는 게 일상이 됐다. AI 모델의 가격과 속도, 정확도를 기준으로 역할을 나누는 구조다. 단일 모델의 성능 경쟁에서 벗어나 '조합의 효율'이 중요해진 셈이다.

기업들도 멀티 모델 도입을 빠르게 확대하고 있다. 미국 벤처캐피털(VC) 앤드리슨호로위츠(a16z)가 글로벌 기업 23개, 최고정보책임자(CIO) 100여 명을 대상으로 조사한 결과 응답자의 37%가 5개 이상의 AI 모델을 사용하고 있는 것으로 나타났다.

a16z는 "과거에는 성능이 핵심 기준이었지만 이제는 가격과 보안, 안정성, 통합성까지 함께 고려해야 한다"며 "이 과정에서 여러 AI를 목적에 맞게 조합하는 방식이 확산되고 있다"고 분석했다.

비용 측면에서도 멀티 모델 전략은 효과를 보이고 있다. 간단한 작업에는 저가 모델을, 중요한 업무에는 고성능 모델을 사용하는 방식으로 전체 AI 사용 비용을 낮출 수 있기 때문이다. 인도 IT 컨설팅 기업 켈턴은 "멀티 모델을 활용하면 동일한 하드웨어에서 더 많은 추론 작업을 처리할 수 있다"며 "이로 인해 AI 인프라 비용을 30~50% 절감하는 사례도 나타나고 있다"고 밝혔다.

[실리콘밸리 원호섭 특파원]