SKT, 슈퍼컴·SW 다 갖춘 AI로 승부수

기업·공공용 '멀티 LLM' 추진
엔트로픽 등 투자사 모델 포함
금융 등 산업별 특화 서비스

SKT 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다. SKT 제공

SKT 수퍼컴퓨터 타이탄. SKT 제공

"초거대 AI(인공지능), 생성형 AI에 대한 선택의 자유를 주겠다."

오픈AI를 필두로 글로벌 ICT(정보통신기술) 기업들이 기업용 맞춤 LLM(초거대언어모델) AI(인공지능) 개발에 뛰어든 가운데 SK텔레콤이 최근 투자한 AI 기업들과 함께 기업·공공용 생성형 AI 시장 공략에 나선다. 각각의 특장점이 있는 LLM 포트폴리오를 갖추고 기업의 수요에 맞춰 서비스를 매칭하는 유연성으로 승부한다는 전략이다.

SK텔레콤은 기업·공공용 생성형 AI 시장 공략을 위한 '멀티 LLM'을 추진한다고 23일 밝혔다. 자체 개발한 LLM '에이닷'과 함께 자사가 투자한 기업의 LLM으로 라인업을 넓히는 동시에 AI 반도체부터 GPU(그래픽처리장치) 서버, AI 응용서비스를 포괄하는 통합 서비스를 제공한다는 방침이다.

우선 한국어 기반의 SKT '에이닷' LLM은 이달부터 엔터프라이즈용 기본모델을 출시한 데 이어 고객사 대상 모델 학습과 최적화 작업을 하고 있다. LLM 기본모델은 문서요약, 문서생성, Q&A 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능이 제대로 발휘되려면 이 모델을 필요로 하는 고객사의 실제 데이터를 넣어서 학습시키고 고객이 원하는 방향으로 튜닝하는 과정을 거쳐야 한다.

자사 LLM뿐 아니라 지분을 투자한 코난의 LLM도 활용한다. 최근 투자한 엔트로픽 LLM 또한 자사 주요 B2B(기업간거래) 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 것으로 전망된다. SKT가 3대 주주에 오른 페르소나AI와는 AI 컨택센터 분야 LLM 구축 사업 협력에 나선다.

AI 서비스는 LLM뿐 아니라 GPU서버 인프라가 뒷받침돼야 한다. SK텔레콤은 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있고, 전국 단위의 IT(정보기술) 인프라 운용 경험과 AI 개발자를 보유하고 있다. 이를 통해 하드웨어부터 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 '풀스택' 서비스가 가능한 구조를 갖췄다.

LLM을 강력한 인프라와 결합한 이후, 이를 개별 산업별로 최적화된 형태로 공급하려면 실제 고객 사이트에서 구축·운용 경험이 풍부한 사업자들과의 협력이 필수적이다. 이를 위해 페르소나AI 같은 협력 대상을 늘려간다는 계획이다.

기업·공공 분야에서는 '산업별 특화 LLM 서비스' 제공을 지향한다. 한국어 기반 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고, 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용한다는 구상이다.

LLM 서비스 수요 발굴에도 나선다. 행정안전부, 과학기술정보통신부 등 정부가 추진하는 LLM 기반 시범 사업과 본 사업 참여를 준비 중이다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 추진 중이다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다.

김경덕 SKT CIC장(부사장)은 "중요한 것은 고객의 요구 사항"이라며 "다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 말했다.

김나인기자 silkni@dt.co.kr