KT, 초거대 AI ‘믿음’ 출격… “할루시네이션 70% 줄여”

이진경 2023. 10. 31. 18:07
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

KT가 매개변수 최대 2000억개 수준의 초거대 인공지능(AI) '믿음(Mi:dm)'을 공개했다.

31일 KT에 따르면 믿음은 국내 최초로 1조 토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상 데이터를 학습한 거대언어모델(LLM) AI다.

AI 풀스택을 활용하면 기업들의 비용 부담이 타사 초거대 AI와 비교해 20∼30% 줄어들 것으로 KT는 추산했다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

국내 최초 1조 토큰 데이터 학습
‘베이직 모델’ R&D에 무료 개방
“2026년 B2B 매출 1000억대로”

KT가 매개변수 최대 2000억개 수준의 초거대 인공지능(AI) ‘믿음(Mi:dm)’을 공개했다. B2B(기업 간 거래)를 중심으로 3년 뒤 1000억원대 매출을 목표로 제시했다.

31일 KT에 따르면 믿음은 국내 최초로 1조 토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상 데이터를 학습한 거대언어모델(LLM) AI다.
우선 매개변수 70억개 수준의 베이직과 수십억개 스탠더드, 수백억개 프리미엄, 2000억개 엑스퍼트 모델 4종을 선보였다. 엑스퍼트 모델 규모는 오픈AI의 ‘GPT 3’ 1750억개보다 많은 것이다.

베이직 모델은 오픈소스로 개방했다. 최준기 KT AI빅데이터사업본부장은 “베이직 모델은 연구개발(R&D) 목적으로 사용할 수 있다”며 “AI로 인한 혁신사례가 아직 없기에 모델을 개방해 함께 새로운 서비스와 혁신 아이디어를 만들어내기 위한 것”이라고 설명했다.

KT는 믿음의 경쟁력으로 △맞춤형 △신뢰성 △편리성 △효율성을 꼽았다.

기업은 용도에 맞춰 AI 모델을 선택하고 미세조정(파인 튜닝)을 거치면 다양한 AI 응용서비스를 이용할 수 있다. 이를 위해 KT는 전용 포털 ‘KT 믿음 스튜디오’를 개설했다. 4종 외 스타트업들과 협업해 만든 다른 모델들도 스튜디오에 올릴 예정이다.

KT는 AI 이용·학습에 관해 전문 컨설팅을 할 예정이다. 또 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT 클라우드의 ‘하이퍼스케일 AI 컴퓨팅(HAC)’과 추론 비용을 기존 대비 50% 줄이는 리벨리온의 신경망처리장치(NPU) 등 ‘AI 풀스택’도 함께 제공한다. AI 풀스택을 활용하면 기업들의 비용 부담이 타사 초거대 AI와 비교해 20∼30% 줄어들 것으로 KT는 추산했다.

이와 함께 KT는 ‘신뢰 패키지(Reliable Package)’로 AI가 거짓을 진짜처럼 답하는 할루시네이션(환각) 현상을 일반 생성형 AI 서비스 대비 최대 70% 가까이 줄였다. 신뢰 패키지는 △그래프 등이 포함된 복잡한 문서도 이해할 수 있는 ‘다큐먼트 AI’와 △필요한 최신 정보를 찾아내는 ‘서치 AI’ △원문에 근거한 응답만 생성하도록 하는 ‘팩트가드 AI’로 구성된다.

KT는 믿음을 통해 새로운 AI 혁신 사업을 발굴하는 등 국내외 B2B 시장에 집중할 계획이다. 특히 글로벌, 제조, 금융, 공공, 교육을 초거대 AI 사업을 확장할 5대 영역으로 규정하고, 다양한 AI 스타트업들과 AI 사업모델을 공동 개발하기로 했다. 이미 금융권과 지방자치단체 등과 활용 논의를 진행 중이다. 이를 통해 믿음 매출 규모를 2026년 1000억원대로 키운다는 목표다.

최 본부장은 “GPT나 메타의 라마 등 글로벌 빅테크 AI 모델은 비영어권에서 활용하기에 한계가 있다”며 “KT 믿음은 기업 자체 데이터, 또는 태국어 등 비영어권 언어 학습에 유리하다. 클라우드 구성과 모델 구축 등 노하우 전수 측면에서도 글로벌 빅테크와의 차별점”이라고 강조했다.

이진경 기자 ljin@segye.com

Copyright © 세계일보. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?