“오답 내놓는 ‘환각현상’ 70% 감소”…KT, 초거대 생성형 AI ‘믿음’ 출시

데이터 덩어리 1조개 이상 학습
공개 플랫폼 신뢰도 평가서 1위
콜센터·통화비서 등 적용 계획

KT가 생성형 인공지능(AI)의 가장 큰 문제점으로 꼽히는 ‘환각현상’을 줄인 초거대 AI ‘믿음(Mi:dm)’을 출시했다. 믿음은 기업들이 사용 목적에 맞는 모델을 맞춤형으로 이용할 수 있도록 경량 모델부터 초대형 모델까지 다양한 제품군으로 나왔다. 국내 주요 AI 신뢰도 평가에서 1위를 차지하기도 했다. KT는 믿음을 활용해 자사 정보통신기술(ICT) 사업 고도화는 물론 외부 업체들과 함께 응용 서비스 개발에도 나섰다.

KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 열고 매개변수 70억개 수준의 경량 모델부터 2000억개 수준의 초대형 모델까지 총 4종의 모델로 구성된 믿음을 공개했다. 믿음은 국내 최초로 1조토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상의 데이터를 학습했다.

KT는 기업 규모와 사용 목적에 맞게 맞춤형으로 사용할 수 있도록 믿음의 기반 모델(파운데이션 모델)을 개방했다. 전용 포털인 ‘KT 믿음 스튜디오’에서 직접 모델을 선택하고 학습할 수 있는 환경도 구축했다. 수요 기업들이 전문 컨설팅을 받는 사용 신청을 할 수 있도록 공식 웹사이트도 열었다.

KT는 믿음의 가장 큰 장점을 강력한 ‘신뢰 패키지’라고 밝혔다. 그간 생성형 AI가 산업 현장에서 폭넓게 사용되는 데 있어 걸림돌은 왜곡된 허위정보를 제시하는 환각현상(할루시네이션)이었다. KT는 학습, 추론, 답변 등 모든 단계에서 신뢰성을 높일 3가지 기술을 믿음에 적용했고, 자체 테스트 결과 시중의 생성형 AI 서비스 대비 환각현상을 최대 70% 가까이 줄였다고 설명했다.

먼저 ‘다큐먼트 AI’는 기계 독해와 같은 방법을 이용해 도식화된 복잡한 문서를 모델이 정확히 이해할 수 있도록 변환하는 기술이다. ‘서치 AI’는 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술이다. ‘팩트가드 AI’는 원문에 근거한 응답만 생성하도록 강화학습을 적용하는 기술이다.

믿음의 경량 모델은 지난 주말 ‘한국형 허깅페이스’(최대 AI 오픈소스 플랫폼)라고 불리는 한국어 초거대 AI 리더보드인 ‘Open Ko LLM’에서 1위를 기록해 신뢰성 측면에서 인정을 받았다.

KT는 내부적으로 AI 콜센터(AICC), 인터넷(IP)TV, AI 통화비서 등 기존 사업도 믿음을 활용해 고도화한다. KT는 금융기관·지방자치단체 등 100개 이상의 기업·기관과 믿음을 활용하기 위한 논의를 진행 중이라고 밝혔다.

최준기 KT AI·빅데이터사업본부장은 “향후 5년간 초거대 AI와 관련해 1조5000억원가량 투자한다고 밝힌 바 있고, 믿음을 통해서 3년 뒤 1000억원 전후 매출을 기록할 수 있는 사업 모델을 마련하고자 한다”고 말했다.

구교형 기자 wassup01@kyunghyang.com