SKT, '멀티 LLM' 전략 추진…"기업·공공용 생성AI 시장 공략"

SKT 수퍼컴 타이탄./사진제공=SKT

SK텔레콤은 기업·공공용 '생성형 AI(인공지능) 시장' 공략을 목표로 자사 및 협력사의 기술력을 결합한 '멀티 LLM(Large Language Model)' 전략을 선보인다고 23일 밝혔다.

SK텔레콤은 △대화와 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발한 에이닷 △윤리적 답변과 대용량 텍스트 입력에 강점이 있는 엔트로픽(Anthropic)의 LLM △한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공할 계획이다.

LLM 파운데이션 모델은 문서 요약·생성과 질의응답 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 여기에 고객사의 실제 데이터를 넣어 학습시키고, 고객사가 원하는 방향으로 '조율(Tuning)'하는 과정을 거친다.

이에 SK텔레콤은 한국어 기반 자체 LLM 에이닷을 8월부터 '엔터프라이즈용 기본 모델'로도 출시하고, 고객사 대상 모델 학습과 최적화 작업을 진행 중이다. 또 SK텔레콤이 지난해 10월 지분투자로 2대주주가 된 코난테크놀로지의 LLM도 활용한다. 아울러 지난 13일 1억달러(약 1300억원) 규모로 지분투자한 엔트로픽(Anthropic)과도 협업한다. SK텔레콤의 주요 B2B(기업 간 거래)에 엔트로픽 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이며, 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 전망이다.

SK텔레콤은 "국내 최고 수준의 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있어 고객 요구에 맞는 안정적 사전 학습이 가능하다"면서 "전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 풀을 바탕으로 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 '풀 스택(통합패키지)' 서비스의 효율적 구축이 가능하다"고 설명했다.

이와 함께 SK텔레콤은 최근 지분투자로 3대 주주가 된 페르소나AI와 컨택센터(AICC) 분야 LLM 구축에 협력하는 등 다양한 방식의 LLM 사업 생태계를 확대하고 있다.

SK텔레콤은 초기 고객사로 LLM 서비스 수요가 발생하는 정부, 공기업, 금융기업 등을 염두에 두고 있다. 우선 행정안전부, 과학기술정보통신부 등에서 추진중인 LLM 기반 사업 참여를 준비 중이고, 금융권 중심의 LLM 기반 서비스 구축 프로젝트도 추진 중이다. 아울러 SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행 중이다. 아울러 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능, 사용법 등에 대한 교육을 지난주부터 진행해오고 있다.

김경덕 SK텔레콤 엔터프라이즈 CIC담당 부사장은 "다양한 멀티 LLM 조합을 기반으로 고객이 실제 필요한 서비스를 신속하게 제공하는 것이 중요하다"고 말했다.

변휘 기자 hynews@mt.co.kr