스켈터랩스-KB국민카드, LLM 기반 '이벤트 Q&AI' 베타 출시

KB국민카드 이벤트 정보 대화형으로 제공

(지디넷코리아=김미정 기자)스켈터랩스가 KB국민카드와 거대언어모델(LLM) 기반 '이벤트 Q&AI' 베타서비스를 출시했다고 25일 밝혔다.

이벤트 Q&AI은 KB국민카드와 KB페이에서 운영하는 이벤트 정보를 대화형으로 찾아주는 질의응답 서비스다. KB국민카드는 이벤트 Q&AI 서비스를 통해 매일 업데이트되는 수백가지 이벤트에 대한 정확한 정보를 고객에게 전달한다. 현재 이벤트 Q&AI 서비스는 KB페이 모바일앱을 통해 로그인하는 고객이라면 누구나 사용할 수 있다.

KB국민카드는 고객이 이벤트에 참여하려면 직접 검색을 통해 정보를 탐색해야 한다는 점에 집중했다. 정확한 정보를 제공하기 위해 접근성이 높은 LLM 도입을 계획했다. 이를 통해 KB국민카드는 고객 불편사항을 신속하게 해소할 수 있고, 고객은 이벤트 Q&AI 환경 내에서 상담원과 대화하듯 자연스러운 대화를 통해 진행중인 이벤트의 상세정보를 확인할 수 있을 전망이다.

(사진=스켈터랩스)

이벤트 Q&AI는 스켈터랩스의 LLM 기반 질의응답 챗봇 솔루션인 '벨라 큐나'와 KB국민카드의 기업 이벤트 정보를 API로 연동하는 방식으로 진행됐다. 이벤트 Q&AI에 활용되는 스켈터랩스의 벨라 큐나는 기업들을 위한 맞춤형 LLM 솔루션으로 LLM의 할루시네이션을 최소화하고, 질문에 최적화된 답변을 생성하기 위해 RAG(검색증강생성) 방식을 채택해 답변 정확도를 높였다.

해당 서비스는 자연스러운 대화를 통해 궁금증을 해소할 수 있도록 어렵고 전문적인 기술 용어 사용을 최소화해 대화 흐름을 자연스럽게 유도할 수 있다. 추가 질문에 답변을 제공하고, 고객의 의도를 파악해 고객 중심의 대화를 이어갈 수 있도록 설계됐다.

스켈터랩스는 개발 과정에서 LLM의 범용성과 데이터 융합이라는 목표를 세우고 실제 현장에서 활용 가능한 수준으로 설계하는 데 주안점을 뒀다는 입장이다. 챗GPT같은 범용 LLM 기반 챗봇은 학습하지 않은 정보에 대한 답변을 생성하는 데 어려움이 있어 기업에 최적화된 답변 제공이 어렵다. 그러나 이벤트 Q&AI 서비스는 이벤트 정보를 융합하는 방식으로 답변 생성 기능을 개선해 고객이 원하는 정보와 기업이 제공하고 싶은 정보의 간극을 줄여줄 수 있다.

조원규 스켈터랩스 대표는 "다년간 기업과의 협업을 통해 얻은 노하우를 바탕으로 이번 KB국민카드 이벤트 Q&AI 서비스를 성공적으로 개발할 수 있었다"며 "LLM을 다루는 많은 기업들이 미래에 대한 가능성 혹은 비전 제시에 그쳤지만, 이번 스켈터랩스와 KB국민카드의 협업은 사람들에게 실질적으로 도움을 줄 수 있는 실용적인 대화형 AI 기술을 제공했다는 점에서 매우 고무적"이라고 전했다.

최근 스켈터랩스는 LLM 도입 니즈가 있는 기업들의 디지털 전환을 지원하기 위해 기존에 주력해 온 기계독해(MRC) 및 대화형 AI 기술 기반으로 LLM을 연구·개발·응용하는 사업 브랜드 '벨라(BELLA, Business Empowering LLM applications)'를 낸 바 있다.

김미정 기자(notyetkim@zdnet.co.kr)