[제조혁신 이노비즈]오투오, 검색증강 AI 기술로 고객 상담 만족도 향상

오투오가 생성형 인공지능(AI)을 활용한 개인 맞춤형 미디어 콘텐츠 추천 서비스를 선보였다. 거짓 정보를 완벽하게 걸러내기 어려운 거대언어모델(LLM) 한계를 극복한 증강검색 기술로 고객 응대 분야까지 사업을 확대한다.

2017년 설립한 오투오는 생성형 AI와 자연어처리(NLP) 기술 기반 주문형비디오(VoD) 추천 솔루션을 개발했다. 콘텐츠가 지닌 비정형 메타데이터를 AI로 자동 추출하는 것이 특징이다. 기존 VoD 서비스는 제목과 장르, 출연 배우 등 콘텐츠 기본 정보를 토대로 추천 서비스가 이뤄졌다. 회사는 개인별 추천 정확도를 높이기 위해 실화 기반 또는 소설 원작 여부, 등장 도시, 시대적 배경 등 세부 정보를 추출해 학습시켰다.

안성민 오투오 대표는 “예를 들어 영화 '부산행'을 좀비물로 추천하기 위해선 장르를 일일이 데이터로 입력해야 했다”면서 “고객이 원하는 콘텐츠를 자동으로 추천할 수 있는 독자 메타데이터 생성 기술을 확보했다”고 설명했다.

오투오 검색증강생성(RAG) 기반 챗봇의 성형외과 상담 활용 사례.(사진=오투오)

오투오는 지난해 국내 유료방송 사업자에 영화 비정형 메타데이터 30만개를 공급했다. 현재 영화 분야에 적용한 메타데이터를 홈쇼핑, 도서, 음원 등 추천에도 확대하는 프로젝트를 진행 중이다. 사용자의 시청·대화·구매 이력을 분석하고, 맞춤형 후속 콘텐츠를 제공해 수익을 창출할 수 있다는 설명이다. 회사는 영덕군의 관광지와 숙박, 음식점 등을 개인 취향과 일정에 맞게 추천하는 서비스 개발에도 착수했다.

안 대표는 “여행 플랫폼 입장에선 루프탑에 수영장이 있는 숙소, 오션뷰 등 세분화된 취향을 모아 숙소를 추천할 수 있다”면서 “예전에는 일일이 라벨링을 거쳐야 했지만 현재는 자동으로 데이터를 추출한다”고 설명했다.

응답을 생성하기 전 외부 데이터를 한 번 더 참조하는 검색증강생성(RAG) 기술도 오투오 주력 사업 중 하나다. 기존 키보드 기반 LLM 챗봇은 거짓 정보를 학습하면 잘못된 답변을 제공할 가능성이 있고, 데이터를 추가로 활용하면 속도가 저하되는 문제가 발생한다. RAG는 외부 정보를 추가로 검색해 생성형AI 모델 정확도와 신뢰도를 향상하는 대안으로 주목받고 있다.

오투오는 사용자가 제시한 질문과 내부 학습 데이터 유사도 비교 과정을 거쳐 답변을 생성하는 알고리즘을 구현했다. PDF 파일을 업로드하는 것만으로도 데이터를 최신화할 수 있고, 답변 데이터 출처를 확인할 수 있는 것이 특징이다. 답변 저장·수정·삭제 등으로 데이터 품질 관리도 손쉽게 가능하다. 현재 한 성형외과의 다국어 의료상담 서비스에 오투오 RAG 기반 챗봇을 활용하고 있다.

안 대표는 “입력 데이터에 대한 별도 파인튜닝(작업 용도에 맞게 매개변수를 조정하는 것) 없이 빠르게 서비스로 구현할 수 있다”면서 “관공서와 은행, 쇼핑몰 등 뿐만 아니라 소상공인도 사용하기 적합하다”고 말했다.

오투오는 고객 상담 분야 AI 활용 증가에 주목하고 있다. 각 통신사들이 상담 애플리케이션(앱), 전용회선, 상담봇 등을 결합한 AI컨택트센터(AICC) 서비스를 내놓은 것이 대표적이다. 시장조사업체 리서치앤드마켓은 세계 AICC 시장 규모가 2020년 115억달러(약 15조6900억원)에서 2025년 361억달러(약 49조2300억원)로 약 3.2배 증가할 것으로 예상했다. 국내 역시 2030년까지 연평균 23.7% 성장할 전망이다.

오투오는 병의원에 특화된 챗봇 서비스로 시장을 확대하겠다는 전략이다. 의약품 정보와 복용방법, 위험성 등을 학습해 사용자 질문에 적합한 정보와 활용법 등을 제시한다. 다국어 챗봇 서비스를 운영해 시차와 무관하게 외국인에게도 언제든 대응할 수 있다. 회사는 개발한 챗봇이 사내 학습데이터를 토대로 정확하게 답변하는 장점을 활용, 공공기관 사내 정보검색 엔진 도입을 추진하고 있다.

오투오는 스마트기기 내에서 연산·판단을 수행하는 온디바이스AI 시장에도 도전한다. 회사의 도메인 특화 LLM '엑시엄'은 인터넷 연결이 필요하지 않아, 보안이 중요한 공공기관, 기업 등에 최적화했다. 경량 LLM을 AI 반도체에 탑재해 차별적인 서비스를 제공할 것으로 기대했다. AI 솔루션 서비스 사업을 확대해 2026년 매출 400억원을 달성한다는 목표다.

안성민 오투오 대표

※ 안성민 오투오 대표 인터뷰

-창업 계기는

▲과거 몸담은 직장에서 인공지능(AI) 스피커 개발 업무를 맡았다. 기존에는 리모컨으로 조작하던 일이 음성으로 이뤄지면서 인간과 기계 사이 소통이 눈에 들어왔다. 기계가 언어지능을 갖추고 최대한 다양한 인간의 말을 이해할 수 있어야 서비스도 편리해지고 시장에서도 살아남았다. 자연어처리(NLP)에 필수적인 메타데이터가 주목받을 것이라 예상하고 관련 기술 개발에 몰두했다.

-회사 강점은

▲기술력이다. 20년 이상 방송통신 분야에 종사하며 미디어AI 프로젝트를 이끌었던 인사들이 주축으로 활동하고 있다. 전체 직원 중 3분의 2가 연구개발(R&D) 인력이다. 고려대 휴먼 인스파이어드(HI)-AI 연구소와 기술협력 관계도 맺었다. 기계독해(MRC) 질의응답 기술을 이전받았고, 고도화 프로젝트에 고려대 AI 연구원도 함께 참여한다. 기술 개발에 매진한 결과 총 20건의 특허를 등록·출원했다.

-주목하고 있는 AI 기술은

▲온디바이스AI가 주목받고 있다. 콘텐츠 메타데이터 생성 기술도 결국 셋톱박스 내에서 동작하므로 온디바이스AI로 이뤄진다고 볼 수 있다. 마찬가지로 각 기기에 탑재된 AI가 작동해 인터넷 연결 없이도 주요 기능을 사용할 수 있는 'N스크린' 시대가 올 것이라 예상한다. 여기에 맞춰 AI 기술도 진화하고 있다. 보안 등의 이유로 AI 챗봇을 도입하지 않는 기업이 아직 많다. 인터넷이 없는 환경에서도 동작해 학습 데이터 유출을 막고, 특수 데이터를 집중 학습해 최적화된 답변을 제시하는 대량언어모델(LLM)을 개발했다. 이를 의료 분야에 공략할 계획이다.

-이노비즈인증으로 얻은 도움이 있다면

▲공공조달과 연구개발(R&D) 과제 수행 등 정부 사업 참여에 가점을 받았다. 덕분에 기술혁신 기업을 넘어 빅테크 기업을 꿈꾸게 됐다.

-향후 계획은

▲올해 안전보건 관련 국제 인증인 ISO45001을 취득할 계획이다. 셋톱박스용 시스템온칩(SoC) 제조사와 함께 동남아시아 시장에 진출하기 위해서다. 동남아는 미디어 콘텐츠 수요가 확대되는 곳으로 꼽힌다. 검색증강생성(RAG) 기반 챗봇과 LLM도 사업 확대 원년으로 삼았다.

송윤섭 기자 sys@etnews.com