SKT, '멀티 LLM'으로 기업·공공용 생성 AI 시장 공략

"다양한 멀티 LLM 조합 기반으로 고객이 필요한 서비스 신속 제공"

(서울=연합뉴스) 오규진 기자 = SK텔레콤이 자체 거대언어모델(LLM)에 협력사들의 모델을 결합한 '멀티 LLM' 전략을 선보인다고 23일 밝혔다.

이를 토대로 기업 및 공공기관의 수요에 따라 LLM이 가진 특·장점을 발휘할 수 있도록 서비스를 연결하는 '산업별 특화 LLM 서비스'를 제공할 예정이다.

먼저 SKT는 한국어 기반 자체 LLM '에이닷'의 기업용 파운데이션 모델을 이달 선보였으며, 고객사 대상 학습 및 최적화 작업을 진행하고 있다. 에이닷 LLM은 학습한 데이터와 서비스 특성상 대화와 챗봇 등 통신사형 서비스에 강점을 보인다.

여기에 자료 입력 시 최대 7만5천 단어(10만 토큰)까지 입력할 수 있는 엔트로픽 LLM과 한국어 데이터가 상대적으로 풍부한 코난테크놀로지스 LLM을 더했다.

SKT는 한국어 기반 구축형 LLM 시장에서 에이닷 LLM을 중심으로 시장을 선점하고, 초거대 인공지능 중심 경쟁이 예상되는 클라우드형의 경우 엔트로픽 LLM을 활용한다.

특히 엔트로픽과는 SKT의 주요 기업간거래(B2B) 서비스에 LLM 기능을 결합 판매하는 방안을 협의하고 있으며, 기능 통합 작업이 완료되는 4분기부터 서비스를 제공할 방침이다.

회사는 전국 단위 정보기술(IT) 인프라를 운용한 경험과 대규모 인공지능 개발자 풀을 바탕으로 하드웨어 인프라에서 소프트웨어에 이르는 기업·공공용 인공지능 '풀스택'(통합패키지) 서비스를 비용효율적으로 구축할 수 있을 것으로 기대했다.

아울러 최근 지분 투자를 한 인공지능컨택센터(AICC) 기업 페르소나AI와 LLM 구축 사업 협력을 추진하는 등 다양한 방식으로 관련 생태계를 확대하고 있다.

SKT는 행정안전부, 과학기술정보통신부 등에서 추진하고 있는 LLM 기반 사업 참여를 준비하고 있으며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 추진 중이다.

SK그룹 내 대형 제조 계열사들과도 LLM 기반 인공지능(AI) 기술의 제조 영역 적용을 위해 협의하고 있으며, 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능 및 사용법에 대한 교육도 지난주부터 운영하고 있다.

김경덕 SKT 엔터프라이즈 CIC담당 부사장은 "다양한 멀티 LLM 조합을 기반으로 고객이 실제 필요한 서비스를 신속하게 제공하는 것이 중요하다"고 말했다.

acdc@yna.co.kr

▶제보는 카톡 okjebo

IT/과학