KT가 회사의 초거대언어모델(LLM) ‘믿음’의 전략을 경량화 모델로 선회한다. 마이크로소프트(MS), 구글 등 글로벌 빅테크 기업과 인공지능(AI) 규모의 경쟁을 택하기 보단, 고객의 관점에서 적합한 s(small)LLM으로 경량화하겠단 계획이다. KT는 이미 자체 LLM을 만들어본 경험과 역량이 있는 만큼 경량화 모델에서도 자신감을 내비쳤다.

김영섭 KT 대표는 28일(현지시간) MWC(모바일 월드 콩그레스) 2024가 열리고 있는 스페인 바르셀로나에 위치한 호텔에서 기자들과 만나 회사의 AI 전략 방향성에 대해 설명했다.

김 대표는 “언어 모델을 구매하려는 고객들이 모두 LLM을 사용하진 않는다”라며 “각자 사업에 맞는, 규모가 작지만 질적으로는 수준이 비슷한 sLLM을 사용하고 고객에게 더 나은 서비스를 하는 방향으로의 전환이라고 생각한다”고 설명했다.

KT의 LLM 믿음은 최대 파라미터(매개변수)가 2000억개 이상이다. 매개변수가 많을수록 AI의 연산 능력이 높아져 일반적으로 AI 성능이 더 낫다고 평가한다. 다만 매개변수가 많을수록 컴퓨팅 자원이 많이 필요하기 때문에 전력 소모량이 많아진다. 때문에 최근에는 적절한 크기의 sLLM을 산업마다 맞춤형으로 적용하는 추세다.

당초 KT도 글로벌 빅테크 기업과 마찬가지로 LLM 믿음 개발에 주력해왔다. 그러나 운영 과정에서 어떤 방향성이 더 효율적인지를 검토하고, LLM을 만들어봤던 경험을 바탕으로 보다 경량화된 sLLM에 집중하겠단 계획이다.

김 대표는 “솔직히 구글이나 MS, 오픈 AI처럼 수십조원의 자금을 투입하는 규모의 경제는 (우리로선)현실적으로도 안되고 어떻게 할 수도 없다. 사업적 관점에서 앞으로 방향 전환을 당연히 해야한다”라며 “우리는 이미 LLM을 만들어 본 경험이 있고, 이를 바탕으로 고객들만의 sLLM을 만들어내고 협력하고 상호 발전하는 모델을 추구할 것”이라고 설명했다.

현장에 참석한 오승필 KT 기술혁신부문장(CTO)은 “요즘 경량화된 sLLM의 경쟁이 매우 치열한 데 LLM AI가 여러 가지를 할 수 있고 좋은 것은 사실이지만 회사 입장에서는 가격 경쟁력이 있어야 한다”라며 “우리는 경량화 모델부터 초거대 모델까지 만들어본 회사로 2100억개를(믿음의 매개변수) 경량화 시키는 작업을 하고 있다”고 말했다.

이와 함께 멀티 LLM 전략도 사용한다. KT는 자체 LLM 믿음과 오픈AI의 GPT, 메타의 라마 등을 함께 활용하는 멀티 LLM 전략 기반의 내부업무 혁신 플랫폼 Gen.AIDU(젠아이두)를 개발하고 전사에 적용한다. 젠아이두는 생성형 AI를 이용해 API를 직접 개발해서 사용할 수 있도록 하는 플랫폼으로 업무편의성을 높이고 보안성을 강화한 것이 특징이다. 또 내부의 방대한 상품과 서비스, 업무 지식을 AI를 통해 쉽게 찾아볼 수 있도록 생성형 AI 지식응대 서비스인 ‘제니’를 공개해 업무에 활용하도록 했다.

KT의 핵심 사업에도 AI를 적용해 업무 개선에 나선다. 믿음을 이용해 지니 TV의 콘텐츠 마케팅 문구를 자동으로 생성하거나, AI로 콘텐츠의 흥행등급을 예측해 KT의 오리지널 콘텐츠 제작에 활용한다. 그리고 이미지와 영상을 자동 분석하고 화질을 개선해주거나 포스터 등을 생성해주는 플랫폼을 개발해 미디어 사업에 적용한다는 계획이다.

기업소비자간거래(B2C) 분야에서도 AI의 사용을 확대할 계획이다. 오 CTO는 “여러가지 고민하고 있는 것들이 많은데, 미디어 분야에서 광고 추천, 프로그램 추천 등의 예시가 있다”라며 “또 우리의 슈퍼앱(금융 분야에서 여러 서비스를 사용할 수 있는 통합앱)과 관련해 여러 가지 계획이 있어 조만간 많은 것들을 말씀드릴 수 있을 것 같다”고 말했다.

이밖에도 KT는 AI 사업에서 3가지 혁신 동력을 준비하고 있다. △고객의 AI 활용을 위해 데이터 준비, 학습, 배포, 운영까지 효율적으로 수행할 수 있는 AI Ops(개발 환경) △AI Assistant(AI 보조)를 통한 생산성 향상 △초거대 AI를 실시간 네트워크가 연결된 서비스 형태뿐 아니라 핸드폰, TV 등 온디바이스로도 확장하는 AI 에이전트 등이다.

바르셀로나(스페인)=김수민 기자