KT, 초거대 AI ‘믿음’ 출격...AI B2B 사업 본격화

경량 모델부터 초대형 모델까지 총 4종 공개
환각 70% 감소...AI 풀스택 통해 최대 50% 비용 절감

서울 광화문KT이스트 사옥. ⓒKT

KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 열고 초거대 AI ‘믿음(Mi:dm)’의 출시를 발표했다.

출시하는 모델은 총 4종으로, 경량 모델부터 초대형 모델에 이르기까지 기업 규모와 사용 목적에 맞게 사용할 수 있도록 했다.

또한 AI 풀스택 인프라를 패키지로 제공해 별도 개발 및 학습 인프라가 없더라도 누구나 합리적인 비용으로 초거대 AI를 활용한 서비스를 개발할 수 있다.

AI 풀스택에는 ▲기존 대비 약 27% 가까운 그래픽처리장치(GPU) 학습 비용 절감이 가능한 KT클라우드의 핵(HAC, Hyperscale AI Computing) 서비스 ▲추론 비용을 기존 대비 50% 절감한 리벨리온의 신경망처리장치(NPU) 인프라 등이 포함된다.

생성형 AI의 고질적인 문제인 환각(Hallucination) 현상은 검색과 추론, 답변 모든 단계에 적용한 세 가지 기술을 통해 일반 생성형 AI 서비스 대비 최대 70% 가까이 줄일 수 있다는 설명이다.

세 가지 기술은 ‘다큐먼트 AI’, ‘서치 AI’, ‘팩트가드 AI’로, 다큐먼트 AI는 도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 기술이다. 서치 AI는 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술, 팩트가드 AI는 원문에 근거한 응답만 생성하도록 강화학습을 적용했다.

KT는 초거대 AI를 활용하고 학습하고자 하는 기업을 위해 믿음의 파운데이션 모델(Foundation Model)을 개방한다.

이를 위해 ‘KT 믿음 스튜디오’라는 전용 포털을 오픈해 고객에게 편리한 개발 환경을 제공할 예정이다. 여기선 KT 믿음의 파운데이션 모델을 직접 선택, 학습, 서빙 할 수 있는 맞춤형 환경이 구성된다.

파운데이션 모델은 방대한 데이터셋으로 학습한 초거대 AI 핵심 기반 모델을 말한다. 보다 복잡한 기술의 구현이나 시스템의 구축을 위해 기업에서 원하는 형태로 미세조정(파인 튜닝)을 거쳐 다양한 AI 응용서비스를 만들 수 있다.

초거대 AI를 사용하고 싶지만 수십억에서 수천억에 달하는 파라미터 모델을 직접 만들 여력이 없는 대다수 기업들의 경우 기존에 공개된 파운데이션 모델을 튜닝해 활용하는 방법이 가능하다.

하지만 데이터 자주권(Sovereign AI) 차원에서 빅테크에 데이터가 종속될 수 있다는 보안 우려가 있고, 무엇보다 기존 상업용 파운데이션 모델은 풀 파인 튜닝(FFT)을 제공하지 못한다는 한계가 있었다.

KT는 이러한 기업고객들의 갈증을 해결하고자 이번에 국내 업계 최초로 조(兆)단위 데이터의 사전 학습을 완료한 자체 파운데이션 모델 믿음을 개방했다는 설명이다.

이를 통해 LLM(거대언어모델)의 B2B(기업간거래) 사업화를 가속하고, 궁극적으로 기업들이 원하는 AI 사업 모델과 응용 서비스의 폭발적 확산을 이끌어낸다는 계획이다.

기업고객들은 초거대 AI 믿음 공식 웹사이트에서 사용 신청을 할 수 있으며, 신청 기업들은 전문 컨설팅을 통해 사용 협의를 진행하게 된다.