SKT, 파트너사와 함께 기업·공공용 '멀티 LLM' 추진

에이닷, 엔트로픽, 코난 등 멀티 LLM기반 엔터프라이즈 AI 사업 추진

[아이뉴스24 이영웅 기자] SK텔레콤이 기업·공공용 생성형 인공지능(AI) 시장 공략을 위한 '멀티 LLM(Large Language Model)'전략을 발표했다.

SK텔레콤은 자체 개발한 에이닷 LLM과 윤리적 답변 및 대용량 텍스트(Text) 입력에 강점이 있는 엔트로픽사의 LLM, 한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 사업을 준비하고 있다고 23일 밝혔다.

SKT [사진=SKT]

현재 국내 LLM 시장은 오픈AI를 필두로 다수 기업이 자사 LLM 기반의 사업을 준비 중이다. SK텔레콤은 자체 LLM과 더불어 업계에서 인정받는 타사의 LLM까지 포함한 라인업으로 '멀티 LLM' 사업 추진 계획을 밝힌 것이다.

먼저 SK텔레콤은 한국어 기반의 자사 에이닷 LLM은 8월부터 엔터프라이즈(Enterprise)용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다. LLM 기본모델은 문서요약, 문서생성, Q&A 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다.

SK텔레콤의 지분투자 이후 다양한 분야에서 협력을 확대하고 있는 코난의 LLM도 활용할 계획이다. 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic)社 LLM의 경우, SK텔레콤의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다.

LLM을 포함한 AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 확실히 뒷받침돼야 개발시간 단축과 함께 정교한 서비스 개발이 가능하다. SK텔레콤은 국내 최고 수준의 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있다.

전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반(Pool)을 보유하고 있어 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 '전 분야 서비스(Full Stack Service)'가 가능할 것으로 보고 있다.

이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

김경덕 SK텔레콤 CIC장(부사장)은 "중요한 것은 고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 말했다.

/이영웅 기자(hero@inews24.com)