SKT, 통신특화 `텔코LLM` 내달중 출격

30일 열린 SKT 텔코 LLM 기자설명회에서 에릭 데이비스(왼쪽) 담당과 정민영 담당이 취재진의 질문을 받고 있다. SKT 제공

SK텔레콤이 AI(인공지능) 피라미드 전략의 정점에 있는 기술을 내놓는다. 통신서비스에 특화된 AI 모델인 '텔코 LLM(대규모언어모델)'을 6월중 선보이고, 해외 통신사들과 협력해 글로벌 시장을 겨냥한 텔코LLM도 발표할 예정이다.

SK텔레콤은 30일 서울 중구 SKT 타워에서 텔코 LLM 기자설명회를 열었다. LLM은 방대한 양의 문장 데이터를 학습해 자연어 처리 작업에 필요한 지식을 획득한 딥러닝 모델이다.

SKT는 '챗GPT', '클로드' 등 범용 LLM을 통신업에 특화한 텔코 LLM을 개발하기 위해 오픈AI, 앤스로픽 등 글로벌 기업과 손잡았다.

자체 개발 LLM인 에이닷엑스(A.X), 오픈AI의 GPT-4, 앤스로픽의 클로드 같은 범용 LLM에 통신 관련 한국어 데이터를 학습시켜 AI고객센터, 네트워크 운용, 사내 업무 등에 다양하게 활용하는 게 이 회사의 전략이다.

에릭 데이비스 SKT AI 기술협력 담당은 "단일 범용 LLM으로 통신사의 다양한 서비스와 문제를 해결하는 일은 쉽지 않다"며 "통신 데이터와 업종 노하우에 맞춰 조정하는 미세조정과 모델 평가를 거쳐 다양한 텔코LLM을 만들고 상황에 맞게 골라 쓰는 멀티LLM 전략을 펴겠다"고 말했다.

현재 고객센터에서 상담전화 한 건을 처리하는데 상담에 약 3분, 상담 후 업무 처리에 30초 이상이 걸리는데 텔코LLM을 도입하면 크게 줄어들 것으로 기대된다. 네트워크 운용, 사내업무에도 생산성과 효율성을 높일 수 있다. SKT는 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등을 아우르는 '인텔리전스 플랫폼'도 공개했다. 멀티LLM을 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 현재 에이닷 같은 서비스에 적용 중이며, 향후 적용 분야를 확대해 나갈 계획이다. 글로벌 통신사나 유사한 업무 특성을 가진 기업들도 플랫폼을 쓸 수 있게 할 예정이다.

정민영 SKT AI플랫폼 담당은 "고객센터, 인프라뿐 아니라 마케팅·유통망 등 고객 접점이나 법무, HR 같은 사내 업무까지 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "텔코LLM 적용사례를 늘려갈 계획"이라고 밝혔다.김나인기자 silkni@dt.co.kr