스켈터랩스-KB국민카드, LLM기반 ‘이벤트 Q&AI’ 서비스 런칭

질문만 하면 이벤트 정보 ‘쏙’
환각 줄이고 ‘검색 증강 생성’탑재

스켈터랩스-KB국민카드, LLM기반 ‘이벤트 Q&AI’ 서비스 런칭

국내 대표 인공지능 스타트업 스켈터랩스는 KB국민카드와 대규모언어모델(LLM) 기반의 이벤트 질의응답 서비스 ‘이벤트 Q&AI’ 베타 버전을 출시했다고 25일 밝혔다.

스켈터랩스가 개발한 ‘이벤트 Q&AI’ 서비스는 KB국민카드·KB페이의 다양한 이벤트에 관한 정보를 자연스러운 대화 형태로 제공하는 것이 특징이다. 고객은 이를 통해 매일 업데이트되는 이벤트 정보를 상담원과 대화하듯 손쉽게 확인할 수 있다.

KB국민카드는 고객이 이벤트에 참여하려면 검색으로 정보를 탐색해야한다는 사실에 착안해, 정확하고 신속한 정보를 제공하고자 접근성 높은 LLM 도입을 계획한 바 있다. 고객이 이벤트 Q&AI 서비스를 활용하면 불편사항을 신속하게 해소할 수 있고, 상담원과 대화하듯 자연스러운 다이얼로그를 통해 상세정보를 확인할 수 있다. 고객 친화적인 맞춤형 서비스인 셈이다.

이번 Q&AI는 스켈터랩스의 LLM 기반 질의응답 챗봇 솔루션인 ‘벨라 큐나(BELLA QNA)’와 KB국민카드의 기업 이벤트 정보를 API로 연동하는 방식으로 진행됐다. 이벤트 Q&AI에 활용되는 스켈터랩스의 벨라 큐나는 LLM 환각(할루시네이션)을 최소화하고, 질문에 최적화된 답변을 생성하기 위해 ‘검색 증강 생성’(Retrieval Augmented Generation; RAG) 방식을 채했다. 답변 정확도가 높고 기업 맞춤형이라는 설명이다

스켈터랩스는 개발과정에서 LLM 범용성과 데이터 융합이라는 목표를 세웠다. 실제 현장에서 활용 가능한 수준으로 설계하는 데 주안점을 뒀다. 챗GPT와 같은 범용 LLM 기반 챗봇은 학습하지 않은 정보에 대한 답변을 생성하는 데 어려움이 있어 기업에 최적화된 답변 제공이 어렵지만, 이벤트 Q&AI 서비스는 이벤트 정보를 융합하는 방식으로 답변 생성 기능을 개선해 고객이 원하는 정보와 기업이 제공하고 싶은 정보 간극을 줄였다는 평가다.

조원규 스켈터랩스 대표는 “다년간 기업과의 협업 노하우를 바탕으로 KB국민카드와 성공적으로 이벤트 Q&AI 서비스를 개발할 수 있었다” “LLM 실용화 측면에서 의의가 있는 협업”이라고 설명했다. 스켈터랩스는 대화형 AI 기술력을 보유한 국내 대표 기업으로, 최근 LLM 사업 브랜드 ‘벨라(BELLA)’를 출시하는 등 대화형 AI 기술 확산시키는데 주력하고 있다.