SK텔레콤, 기업·공공용 멀티LLM AI 추진

SKT이 공공 및 기업용 '생성형 AI 시장' 공략을 위한 '멀티 LLM' 전략을 23일 발표했다. 사진은 SK텔레콤 수퍼컴퓨터 타이탄. /사진=SK텔레콤_

SK텔레콤이 기업·공공용 생성형 인공지능(AI) 시장 공략을 위한 멀티 거대언어모델(LLM) 전략을 23일 발표했다. 한국어 기반의 구축형 LLM 시장에서는 에이닷을 중심으로, 클라우드형 LLM 시장에는 엔트로픽 LLM 등을 통해 시장 맞춤형 전략을 펼친다.

SK텔레콤은 ▲대화, 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해 온 에이닷 LLM ▲윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽 LLM ▲한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행하고 있다.

SK텔레콤은 자체 LLM과 더불어 타사 LLM까지 포함한 라인업으로 멀티 LLM 사업을 추진한다. 한국어 기반 에이닷 LLM은 이달 엔터프라이즈용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 추진한다.

지분 투자 이후 다양한 분야에서 협력을 확대 중인 코난의 LLM도 활용할 계획이며 지난 13일 지분 투자를 발표한 엔트로픽사와는 SK텔레콤 주요 기업 간 거래(B2B) 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 전망된다.

SK텔레콤은 대규모 그래픽처리장치(GPU) 시스템을 갖춰 LLM의 안정적 사전 학습이 가능하다고 본다. 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반을 보유하고 있어 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 풀 스택 서비스가 가능하다고 강조했다.

최근 지분투자를 단행해 3대 주주가 된 페르소나AI와 AI컨택센터(AICC) 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해 나갈 계획이다.

SK텔레콤은 기업·공공 분야에 LLM을 제공하는 데 있어 산업별 특성에 맞출 방침이다. 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사향 서비스 장점이 있다. 엔트로픽 LLM의 경우 AI가 따라야 할 윤리원칙을 미리 학습시켜 뒀기 때문에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특성이 있다. 자료 입력 시 소설책 한 권에 해당하는 텍스트(10만 토큰, 단어 7만5000개)를 통째로 입력이 가능하다.

SK텔레콤은 수요가 먼저 나타나고 있는 정부 부처, 공기업, 금융기업과 아직 초기 단계지만 국내 대형 제조사 등을 중심으로 공략할 방침이다.

행정안전부, 과학기술정보통신부 등 정부에서 추진하는 LLM 기반 시범 사업과 본 사업 참여를 준비하고 있다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 진행 중이다.

양진원 기자 newsmans12@mt.co.kr
<저작권자 ⓒ '성공을 꿈꾸는 사람들의 경제 뉴스' 머니S, 무단전재 및 재배포 금지>