SKT, 기업·공공用 멀티LLM AI 추진

SKT 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다. [SKT 제공]

[헤럴드경제=박로명 기자] SK텔레콤이 기업·공공용 ‘생성형 인공지능(AI) 시장’ 공략을 위한 ‘멀티 거대언어모델(LLM)’ 전략을 23일 발표했다.

SKT는 기업 및 공공기관 등의 요구에 맞춰 ▷대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM ▷윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽(Anthropic)의 LLM ▷한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 준비를 진행 중이라고 밝혔다.

국내 LLM 시장은 오픈AI를 필두로 다수 기업들이 자사 LLM 기반의 사업을 준비하는 단계다. 이에 SKT도 자체 LLM과 함께 타사 LLM까지 아우르는 멀티 LLM 사업을 추진하기로 했다. 먼저 이달부터 한국어 기반 SKT 에이닷 LLM을 엔터프라이즈용 기본모델로 출시한 후, 고객사를 대상으로 모델을 학습시켜 최적화 작업을 진행한다.

LLM 기본모델은 문서요약, 문서생성, 질의응답 등을 수행할 수 있는 AI 소프트웨어다. 이 같은 기본 기능을 제대로 발휘하려면 이 모델을 필요로 하는 고객사의 실제 데이터를 넣어 학습시키고 고객이 원하는 방향으로 조율하는 과정을 거쳐야 한다.

SKT AI 서비스 에이닷용 슈퍼컴퓨터 ‘타이탄’ [SKT 제공]

향후 SKT는 코난의 LLM도 활용할 계획이다. 지난 13일 지분 투자를 발표한 엔트로픽의 LLM의 경우, SKT의 주요 기업간거래(B2B) 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 기능 통합 작업이 완료되는 올해 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

AI 서비스는 사전 학습을 위한 데이터와 함께 안정적 서비스 제공을 위한 GPU 서버 인프라가 뒷받침돼 야 정교한 서비스 개발이 가능한데, SKT는 이러한 대규모 GPU 시스템을 갖추고 있다. 대규모 AI 개발자 기반과 전국 단위의 IT 인프라 운용 경험 등도 보유하고 있어 ‘풀 스택’ 서비스가 가능할 것으로 보고 있다. 최근 지분투자를 한 페르소나 AI와 LLM 구축 사업 협력도 추진한다.

최근 LLM 시장은 각 산업 분야별로 고객이 필요로 하는 구체적인 서비스를 제공하는 방식으로 발전하고 있다. SKT는 각각의 LLM이 가진 고유의 장점을 가장 잘 살릴 수 있는 분야에 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’를 지향한다. 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM으로 시장을 선점하고, 초거대 AI 중심의 클라우드형 LLM 시장에서는 엔트로픽 LLM으로 시장을 공략할 계획이다.

SKT는 행정안전부, 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비이다. 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진하고 있다.

SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다. LLM AI 기술을 빅데이터 분석 사업과 결합하면 작업자들의 근무 시간을 단축해 생산성 향상에 기여할 수 있을 것으로 보고 있다.

dodo@heraldcorp.com