SKT, 통신 특화 AI '텔코 LLM' 공개..."3분30초 걸리던 상담 시간 30초로"(종합)
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK텔레콤의 멀티LLM 전략입니다."
30일 오전 SKT타워 4층 수펙스홀에서 개최된 '텔코 LLM' 공개 간담회에서 에릭 데이비스 SK텔레콤 AI 기술 협력 담당은 이같이 밝혔다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
'글로벌 AI 컴퍼니' 비전에 맞춰 글로벌향 텔코LLM 출시도 예정
[아이뉴스24 서효빈 기자] "다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK텔레콤의 멀티LLM 전략입니다."
30일 오전 SKT타워 4층 수펙스홀에서 개최된 '텔코 LLM' 공개 간담회에서 에릭 데이비스 SK텔레콤 AI 기술 협력 담당은 이같이 밝혔다. 그는 "1개의 범용 LLM(거대언어모델)으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다"며 "텔코 LLM은 범용 LLM에 비해 전문성, 효율성, 개발 기간 단축 등에서 유리하다"고 설명했다.
텔코LLM은 GPT와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다. SK텔레콤의 멀티LLM 전략의 일환으로, 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 것이다. SK텔레콤은 텔코 LLM을 통해 통신에 특화된 AI 서비스를 제공할 수 있다고 강조했다.
예컨대 텔코 LLM 도입으로 3분30초(고객 상담 3분, 상담 후 업무 처리 30초) 이상 소요되는 현 고객센터 상담 대응 시간이 약 30초에서 1분30초로 줄어드는 것이다. 텔코 LLM이 5G 요금제와 T멤버십, 공시지원금 등 통신 전문 용어와 AI 윤리가치와 같은 통신사 내부 지침을 학습하고 해결책을 상담원에게 제공할 뿐만 아니라 상담 내용을 요약해 제공하기 때문이다.
SK텔레콤은 텔코LLM의 완성도에 자신감을 드러냈다. AI의 고질적인 문제인 환각(할루시네이션)에 대해 정민영 담당은 "환각률은 내부적으로 평가 기준이 있는데 몇몇 테스크는 기준이 넘었고 다른 테스크들도 기준 이상의 수치를 확보하려고 한다"며 "오는 6월 정도에는 꽤 넉넉히 달성할 수 있을 거라고 생각한다"고 말했다.
이날 회사는 통신사용 '인텔리전스 플랫폼'도 선보였다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등까지 아우르는 '기업용 AI 개발·운용 패키지'다. 정민영 담당은 "통신사 업무는 공유하는 것이 많아서 쉽게 확산될 수 있을 것"이라며 "기술적으로나 비용 효율적으로도 확산이 용이하다. 글로벌 텔코 AI 얼라이언스(GTAA) 회원사들과도 어떻게 적용할 수 있을지 논의해볼 것"이라고 전했다.
또한 '글로벌 AI 컴퍼니' 비전에 맞게 글로벌향 텔코LLM을 내놓을 예정이라고 밝혔다. 데이비스 담당은 "글로벌 텔코 LLM 개발은 아직 세부사항을 논의 중으로 SK텔레콤 텔코 LLM을 마친 후 착수하게 될 것"이라며 "SK텔레콤 텔코 LLM은 한국어 기반이지만 통신업은 용어·표준·업무환경 등이 비슷하고 기반이 되는 범용 LLM의 다국어 지원 능력 등이 개선돼 GTAA와 별개로 이를 이용한 해외 진출도 할 것"이라고 설명했다.
/서효빈 기자(x40805@inews24.com)Copyright © 아이뉴스24. 무단전재 및 재배포 금지.
- [여의뷰] 청구서 내미는 조국, 이재명의 딜레마
- "주인님 저 못 탔어요" 버려진 줄 모르고 차 쫓아간 강아지 [쇼츠]
- '자켓만 입었나?'…한효주, 실로 살짝 봉합한 은근 섹시룩 [엔터포커싱]
- "얼마나 예쁘길래"…미인대회 1위한 60대
- "같은 단지인데도 집값 4억 낮다니"…조망권의 '경제학'
- 한파 속 석유화학…전방위 축소·정리 나섰다
- 오동운 공수처장 후보 "채상병 사건, 법과 원칙에 따라 수사"
- "벌써 바닥 쳤나"…서울·경기 아파트 거래 증가세
- 남편 살해·친모 실명시킨 사이코패스 '엄여인'…24년만 얼굴 공개
- 시작만 화기애애…'영수회담 135분' 날 선 긴장감(종합)