SKT "통신 특화 AI 엔진 '텔코LLM' 6월 공개…상담 시간 단축"

[사진=SKT 제공]

SKT가 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 인공지능(AI) 윤리가치 같은 통신사의 내부 지침을 학습한 '텔코LLM'을 개발하고 있다고 오늘(30일) 밝혔습니다. 오는 6월 중 개발을 완료하고 선보일 예정입니다.

텔코LLM은 'GPT', '클로드'와 같은 범용 LLM(거대언어모델)이 아니라 통신업에 특화된 LLM을 뜻합니다.

SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 에이닷엑스(A.X), GPT, 클로드에 학습시킴으로써 통신에 특화된 LLM을 만들고 있습니다.

텔코LLM은 SKT의 에이닷엑스, 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다고 SKT는 전했습니다. 멀티 LLM 전략의 일환이라는 설명입니다.

에릭 데이비스 SKT AI Tech Collaboration담당은 "1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라며 "통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략"이라고 말했습니다.

통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 멀티(다중) LLM 전략이라는 설명입니다.

상담업무 소요 시간 단축
현재 고객센터에서는 고객 상담에 약 3분, 상담 후 업무 처리에 30초 이상이 소요되는데, 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축해 줄 수 있을 것으로 기대된다고 SKT는 전했습니다.

기존의 고객센터에서 상담사가 고객 문의 내용을 정리하고 필요한 문서를 검색, 요약해 답을 한 후 상담 내용을 기록하는 것까지 전 과정에 숙련되는 데 많은 경험과 교육이 필요했다면 텔코LLM이 이 과정을 줄여주는 셈입니다.

통신사의 네트워크 인프라 운용에도 텔코LLM이 유용합니다.

네트워크 모니터링 중 문제가 발생하면 인프라 운용자가 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있습니다.

텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에 사람이 직접 정보를 찾는 것보다 대응 시간을 단축할 수 있습니다.

SKT는 향후 인프라 운용 시 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용할 계획입니다.

정민영 SKT AI플랫폼 담당은 "고객센터, 인프라뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM을 활용한 유즈케이스를 늘려갈 계획"이라고 말했습니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

짧고 유익한 Biz 숏폼 바로가기

SBS Biz에 제보하기

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지