멀티 모델 AI 가능할까?…뤼튼의 도전에 눈길 가는 이유

뤼튼 AI 어시스턴트(채팅봇)에는 4개의 버튼
GPT 3.5, GPT4, GPT 3.5 16K, 구글 팜2
SKT 에이닷도 자체모델+챗GPT..챗T메뉴
모델 자체보단 데이터..애플리케이션을 장악하라
LLM 플러그인 대중화는 위협…품질 관리 약점도

[이데일리 김현아 기자]

[이데일리 김정훈 기자]

한 서비스에서 여럿의 거대 언어모델(Large Language Model)AI를 활용하는 게 가능할까. 오픈AI 모델과 구글 모델을 함께 쓰는 서비스 말이다. 언뜻 보면 LLM과 응용프로그램인터페이스(API)를 연동할 때 내야 하는 돈이 만만치 않아 비즈니스 모델로서 자리매김할 수 있을지 걱정이다.

하지만, 최근 한 서비스에서 여러 개의 모델을 동시에 이용하는 서비스가 늘고 있다. 이들은 모델별로 API 연동 비용이 줄고 있어 큰 걱정은 아니라고 했다.

다만, 자체 모델 없이 여러 모델을 가져다 쓰는 경우 위험하다는 시각도 있다. 챗GPT 만 해도 ‘플러그인’을 통해 외부 서비스와 연동하면서 스스로 거대한 ‘AI 앱스토어’로 진화 중이기 때문이다.

4개 모델 버튼있는 뤼튼

뤼튼테크놀로지스는 넥스트 포털이 되겠다는 목표 아래, 여러 LLM과 연동 전략을 쓰고 있다. 한마디로 ‘Model of Models(여러 모델을 아우르는 모델)’을 추구한다.

AI 비서(챗봇)를 위해 오픈AI의 GPT-3.5(빨라요), GPT-4(똑똑해요), GPT-3.5 16K(베타·길게 대답해요)와 구글의 PaLM2(빠르고 가독성이 높아요) 등과 연동해 채팅 창 아래에 4개의 버튼이 있다. 김태호 뤼튼 이사는 “최고의 AI를 제공하기 위해 다양한 모델을 테스트하고 적용하려 한다”면서 “각각의 모델에서 장점만 활용하고 보완하자는 것”이라고 했다.

뤼튼 홈페이지에 가면 이들 서비스는 모두 무료, 무제한이다. 하지만, 뤼튼이 이들과 연동하려면 돈을 내야 한다. 오픈AI가 GPT-4를 발표하면서 기존(GPT-3.5)보다 10배 저렴한 가격(1000 토큰당 0.002달러·한국어 기준 800단어 정도)으로 연동비를 낮췄지만, 부담이진 않을까. 김 이사는 “LLM 모델별로 연동 가격이 떨어지고 있다”고 했다.

뤼튼뿐 아니라 SK텔레콤의 AI 비서 에이닷도 얼마 전 챗GPT와 연동했다. 에이닷 하단에 ‘챗T’메뉴를 개설한 것이다. 이에 따라 에이닷은 자체 LLM 모델과 오픈AI 모델, 2개로 운영된다. 베타 서비스 중이나, 아이러브스쿨 CTO 출신이 만든 회사인 텐스페이스가 텔레그램 채널에서 오픈한 ‘Ai카라’는 구글과 오픈AI의 모델을 모두 쓰는 것으로 전해졌다.

[이데일리 김일환 기자]

모델 자체보단 데이터…애플리케이션을 장악하라

멀티 AI 모델(여러 개의 LLM 파운데이션 모델)을 활용하는 기업들은 인공신경망 네트워크에서 중요한 것은 소프트웨어(SW) 자체 라기보다 대량의 데이터라고 본다.

뤼튼의 경우 △채팅플랫폼은 여러 모델을 열어두고 다양한 입력을 하게 해서 데이터를 모으고(AI챗봇) △AI 프론트엔드 기술을 고도화해 자사의 프롬프트 자동화툴을 통해 코딩을 못해도 AI서비스를 만들 수 있도록 지원하며(뤼튼 스튜디오&스토어)△자사 플랫폼과 외부 서비스들(부동산 직방, 여행 마이리얼티립, 법률 로앤굿 등)을 연결해 외연을 확장(뤼튼 플러그인)한다.

김 이사는 “우리가 강조하는 건 애플리케이션 서비스를 빠른 속도로 제공할 수 있도록 조직의 역량을 높이는 데브옵스(DevOps)”라고 했다.

이런 시각은 ‘인공지능(AI) 4대 천왕’으로 불리는 인물 중 한 명인 앤드류 응 스탠퍼드대 교수(전 구글, 바이두 AI 개발자)의 시각과 비슷하다. 그는 “사실 인공신경망은 인간의 뇌와 다르고, 소프트웨어 자체 보다는 데이터가 중요하다”면서 “독보적인 AI 기업이 되려면 기획자와 개발자 간의 소통, 그리고 해당 서비스의 후속 과정에 대한 세밀한 관리가 필수적”이라고 했다.

챗GPT 플러그인 스토어

뤼튼 플러그인. 부동산은 ‘직방’, 모빌리티는 ‘타다’ 등과 MOU를 맺었다.

LLM 플러그인 대중화는 위협…품질 관리 약점도

다만, 남의 LLM 모델만 활용하면, LLM 개발사의 플러그인 서비스가 대중화될수록 힘을 잃을 수 있다.

이를테면 뤼튼 플러그인이나 뤼튼 스튜디오&스토어는 오픈AI가 내놓은 ‘챗GPT 플러그인’ 서비스와 경쟁해야 한다. 오픈AI에 월 20달러를 내면, 챗GPT 창에서 음식 조리법에 대해 물어보고 배달받을 수 있거나(Instacart), 실시간 주식·암호화폐 관련 투자 데이터를 제공받거나(Savvy Trader AI), 항공편과 호텔 예약을 간편하게 하거나(Trip)하는 일이 가능하다.

뤼튼 서비스는 ‘직방’이나 ‘타다’ 등과 제휴해 국내 실정에는 더 맞지만, 빠른 속도로 AI 대중화를 이끌지 못한다면 서비스 확장에 제한이 불가피하다.

오픈AI 자체 서비스보다 뤼튼의 채팅봇에서 서비스받는 속도가 다소 느리다는 평이나, 해당 LLM 모델에 장애가 났을 때 여러 모델을 아우르는 멀티 모델AI 회사들이 당장 해결하기 어렵다는 점도 단점으로 꼽힌다.

김현아 (chaos@edaily.co.kr)