SKT, 기업·공공용 AI에 '멀티LLM' 쓴다

[한국경제TV 이근형 기자]

SK텔레콤이 기업과 공공용 생성형 AI 시장 공략을 위한 멀티 LLM(Large Language Model)전략을 공개했다. 자사와 타사의 LLM을 통합해 다양한 라인업을 사업에 적용한다.

SK텔레콤은 기업과 공공기관 요구에 맞춰 에이닷 LLM, 엔트로픽사의 LLM, 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 준비를 진행하고 있다고 23일 밝혔다.

LLM은 GPT-3(오픈AI), LaMDA(구글) 같은 생성형AI의 기본모델이다. 에이닷 LLM은 대화와 고객센터 등 통신사 기반 서비스를 중심으로 SKT가 자체 개발해온 언어모델이며, 엔트로픽사의 LLM은 윤리적 답변과 대용량 텍스트 입력에 강점이 있다. 코난LLM은 한국어 데이터가 풍부하다는 평가를 받는다.

앞서 SKT는 코난에 지분투자를 한 후 다양한 분야에서 협력을 확대하고 있으며, 엔트로픽사 역시 지난 13일 지분투자를 발표했다.

각사의 LLM 기능은 오는 4분기부터 통합작업이 완료돼 실제 서비스 제공이 가능하질 전망이다.

SKT는 자사가 국내 최고수준의 슈퍼컴 등 대규모 GPU시스템을 갖추고 있어 고객 요구에 맞는 안정적 사전 학습이 가능하다고 소개했다.

또 전국단위 IT인프라를 운용한 경험과 대규모 AI개발자를 보유하고 있어 하드웨어 인프라에서 LLM소프트웨어에 이르기까지 엔터프라이즈 AI분야에서의 풀스택서비스가 가능할 것으로 자신하고 있다. 그 일환으로 SKT는 AI반도체 전문기업 사피온을 설립하고, 신제품 X330 신기술을 통해 GPU의 발열과 가격부담 이슈를 해결하는 중이다. 이를 바탕으로 SKT가 기대하는 것은 고객별 특성에 맞는 LLM서비스를 가장 비용효율적으로 공급하는 기업용 AI사업자다.

SKT는 기업공공분야 LLM 서비스에 있어 산업별 특화 LLM서비스 제공을 지향한다고 전했다. 가령 에이닷LLM은 주로 대화나 챗봇 등 통신사내 서비스에 장점을 갖고 있으며, 엔트로픽 LLM은 윤리원칙에 맞는 답변과 함께 자료입력시 소설책 한 권에 해당하는 텍스트를 통째로 입력이 가능하다는 장점이 있다. 따라서 한국어 기반 구축형 LLM시장에서는 에이닷LLM을 중심으로 시장을 선점하되, 초거대 AI중심의 경쟁이 예상되는 클라우드형LLM의 경우 엔트로픽LLM을 활용해 시장을 공략한다는 계획이다.

한편 SKT는 LLM 서비스 수요가 먼저 나타나고 있는 정부 부처와 공기업, 금융기업 등에 우선 진출을 준비중이다. 행안부와 과기부 등 정부 LLM 기반 시범사업과 본사업 참여를 비롯해, 금융권 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중이다.

SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항(Needs)으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.
이근형기자 lgh04@wowtv.co.kr