메이팜소프트, 'AI EXPO 2024'서 'LLM 연계' 솔루션 신기능 선봬

AI(인공지능) 솔루션 전문기업 메이팜소프트(대표 민윤정)가 서울 코엑스에서 열린 '제7회 국제인공지능대전'(AI EXPO KOREA 2024)에서 AI 챗봇 솔루션 'IO-STUDIO Chatbot'(IO 스튜디오 챗봇)의 신규 기능을 선보였다고 23일 밝혔다.

기존 IO-STUDIO Chatbot은 △DB(데이터베이스) 기반 정의 △사용자 정의 △QA 즉답 데이터 △의도 정의 △AI 딥러닝 학습 등 5가지 방법론으로 챗봇을 구현하는 솔루션이다. 메이팜소프트는 이번에 'LLM(대형 언어 모델) 연계 방법론'을 새로 추가했다.

'LLM 연계 방법론'은 고객사 데이터와 문서에서 사용자 질의에 가장 적합한 정보를 찾아 답변하는 방식이다. 별도의 지식데이터 구축 없이도 대화형 AI 챗봇을 만들 수 있는 셈이다.

업체 측은 "LLM이 결합된 IO-STUDIO Chatbot은 고객 데이터 내에서만 답변하도록 설계돼 생성형 AI의 할루시네이션 문제를 최소화했다"며 "프롬프트 관리로 대화 스타일도 조정 가능하다"고 말했다. 이어 "사용량 통계, 질의-답변 관리, LLM 비용 절감 등 편의 기능도 제공한다"고 덧붙였다.

민윤정 메이팜소프트 대표는 "신규 LLM 기능을 탑재해 고객 편의성을 높였다"며 "앞으로 소형 언어 모델 내재화 등 다양한 방안으로 챗봇 기능을 더욱 발전시킬 것"이라고 말했다.

메이팜소프트는 세종시청, 국세청, 서울시교육청, 식품의약품안전처, 한국교육시설안전원 등 공공기관과 기업에 챗봇 솔루션을 공급하며 시장을 확대 중이다.

메이팜소프트의 'AI EXPO 2024' 부스 이미지/사진제공=메이팜소프트

윤숙영 기자 tnrdud0304@mt.co.kr