“생성형 AI 새 먹거리”… 통신사들 ‘LLM’ 개발 힘 쏟는다 [심층기획]

AI 서비스 근간… 사업모델 발굴 박차
SKT, 통신 특화 ‘텔코 LLM’ 6월 완료
상담시간 단축… 마케팅·인프라 운용
KT·LGU+도 ‘경량화 언어모델’ 선봬
日·中 해외 주요 통신사도 상용화 나서
방대한 데이터, LLM 딥러닝 활용 장점
새 고객 서비스 창출 가능… 경쟁 가속화
“텔코 LLM, 통신 서비스업무에 최적화”

“‘롬곡옾눞’이 무슨 뜻이야?”라고 SK텔레콤이 자체 개발한 거대언어모델(LLM) ‘에이닷엑스’에 질문을 던졌다.

에이닷엑스는 “롬곡옾눞’은 ‘폭풍눈물’을 거꾸로 뒤집어서 표현한 신조어입니다. 즉, 폭풍처럼 눈물이 쏟아진다는 것을 의미합니다. 예를 들어 ‘영화 보면서 롬곡옾눞했어’라고 하면, 그 영화를 보고 너무 감동적이어서 눈물이 멈추지 않았다는 뜻입니다”라고 답했다.

이게 토종 LLM 에이닷엑스의 ‘실력’이다.

똑같은 질문에 오픈AI의 생성형 AI ‘GPT 4.0’은 ‘죄송한데 이해하지 못했습니다. 질문을 다시 해주시겠습니까?’라며 난감해했다.

반면 한국어와 한국 문화를 중점적으로 학습한 에이닷엑스는 이런 한국어를 다각도로 활용한 답을 내놓는다.

생성형 인공지능(AI)이 불고 온 ‘AI 혁명’이 통신업계에도 휘몰아치고 있다. 각국의 통신사가 LLM 개발에 적극적으로 뛰어들며, 이를 활용한 새로운 사업모델 발굴을 구상하고 있다. 오랜 기간 축적해 온 양질의 데이터를 통해 통신업에 특화한 다양한 데이터를 확보한 통신사들은 지속적인 학습이 필요한 LLM 개발에 이를 활용하고, 성능을 개선해 나가고 있는 것이다.

◆텔코 LLM으로 승부수 던진 SK텔레콤

LLM 개발에 가장 적극적인 국내 통신사는 이동통신 1위 사업자 SK텔레콤이다. SK텔레콤은 오는 6월 중으로 통신 전문 용어와 AI 윤리가치 등을 학습한 이른바 ‘텔코(통신사) LLM’ 개발을 완료할 계획이다.

SK텔레콤은 텔코 LLM 개발을 위해 오픈AI?앤트로픽 등 글로벌 기업과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집 및 선별했다.

이렇게 확보한 데이터를 자체 LLM 에이닷엑스를 포함, GPT(오픈AI), 클로드(앤트로픽)에 학습해 통신 특화 LLM을 구축하는 것이다. 이 과정에서 LLM 성능을 강화하는 파인튜닝(미세조정)과 사람이 오류 등을 조정하는 ‘휴먼 피드백 강화 학습’, 모델 평가 등을 거치며 완성도를 높이게 된다.

텔코 LLM은 구체적으로 어떻게 쓰일까. 고객센터 서비스에 적용하는 게 가장 먼저 시도될 것으로 보인다. 현재 고객센터에서 상담 전화 한 건을 처리하는데 3분30초(고객 상담 약 3분, 상담 후 업무 처리 30초 이상) 이상이 소요된다. 텔코 LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축해 줄 수 있을 것으로 기대된다.

텔코 LLM 중 통신 관련 데이터를 입힌 클로드 버전은 AI가 따라야 할 윤리원칙을 철저하게 학습한 모델이다. 이를 바탕으로 한국에서 빠르게 생겨나는 신조어나 한국어 욕설, 위협 폭언 등의 문맥 뉘앙스를 정확히 파악할 수 있다.

통신사의 네트워크 인프라 운용에도 텔코 LLM이 활용될 수 있다. 네트워크 모니터링 중 문제가 발생하면, 인프라 운용자가 실시간으로 텔코 LLM에 질문을 입력해 해결 방안을 답변으로 받아보는 식이다. 텔코 LLM이 장비 매뉴얼이나 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공하기 때문에, 사람이 직접 정보를 찾는 것보다 대응 시간을 단축할 수 있다.

SK텔레콤 관계자는 “고객센터와 인프라뿐만 아니라 유통망, 마케팅, 사내 업무 등 활용처에 따라 최적화된 텔코 LLM을 사용함으로써 업무 효율 향상 및 비용 감소 등이 가능해질 것”이라고 말했다.

이 밖에 KT도 전력량과 컴퓨팅 서버를 최소화한 경량화 언어모델(sLLM) ‘믿음’을 선보였고, LG유플러스도 sLLM ‘익시젠’을 공개할 예정이다.

◆통신사들이 LLM 개발에 뛰어든 이유

국내뿐만 아니라 해외 주요 통신사들도 통신업과 결합해 시너지를 내기 위한 자체 LLM 개발에 힘을 쏟고 있다.

일본 최대 이통사 NTT 도코모는 최근 자체 개발한 LLM ‘쓰즈미’를 내놓고 상용 서비스를 시작한다고 발표했다. NTT 도코모에 따르면 쓰즈미는 GPT 3.5와 비교해 일본어 성능이 뛰어나고, 영어 처리 능력도 상당한 수준이다.

기업용 LLM으로 개발된 쓰즈미는 향후 사내 업무 개선, 고객 대응 등 도입 기업의 필요에 따라 맞춤 제작돼 판매될 예정이다. 이탈리아 통신기업 패스트웹은 최근 1분기 실적 발표를 통해 이탈리아어로 훈련된 LLM을 개발 중이라고 밝혔다.

중국 차이나텔레콤은 LLM ‘씽첸’을 공개했다. 씽첸은 사내 소프트웨어 개발, 네트워크 분석 등에 활용 중인 것으로 알려졌다. 소프트뱅크는 내년까지 생성형 AI 개발을 위해 1500억엔(약 1조3400억원)을 추가 투입한다고 발표했다.

이처럼 각국을 대표하는 통신사들이 LLM 개발에 나선 데는 그만한 이유가 있다. 우선 오랜 기간 축적해 온 양질의 데이터가 있다는 게 큰 장점이다. 통신업에 특화한 다양한 데이터를 확보함으로써 지속적인 학습이 필요한 LLM 개발에 이를 활용하고, 성능을 개선해 나갈 수 있다.

여기에 통신뿐만 아니라 인터넷TV(IPTV), 콘텐츠산업 등 다양한 접점에서 서비스를 제공하는 통신업의 특성상, 고객 경험이 풍부하다는 점도 통신사들이 LLM 개발에 힘을 쏟는 이유다. LLM을 바탕으로 새로운 고객 서비스 창출이 가능하기 때문이다.

SK텔레콤이 추진하고 있는 글로벌 개인형 AI 비서가 대표적이다. SK텔레콤은 국내 AI 개인비서 ‘에이닷’을 넘어 글로벌 시장 공략을 위한 서비스를 준비 중이다.

업계의 한 관계자는 “AI 서비스가 완성도를 높이기 위해서는 LLM 등 기초 기술이 바탕이 돼야 한다”며 “글로벌 시장에서 AI 경쟁이 시작되면서 AI 서비스의 근간이 되는 LLM 기술 개발도 경쟁이 가속화할 것”이라고 전망했다.

◆LLM 담당 에릭 SKT 부사장 “에이닷엑스, 한국어·문화 가장 잘 이해”

SK텔레콤 자체 인공지능(AI) 언어모델 개발을 이끌었고, 현재는 글로벌 거대언어모델(LLM)을 담당하고 있는 에릭 데이비스(사진) 부사장은 “에이닷엑스(A.X)의 강점은 한국을 가장 잘 이해하고 있다는 점”이라고 설명했다.

23일 에릭 부사장은 SK텔레콤의 통신 서비스 특화 텔코 LLM인 에이닷엑스에 대해 “세계 최초 한국어 LLM 기반의 에이닷에서 실제로 고객서비스를 하기 위해 사용되고 지속해서 개선되고 있는 LLM 모델”이라며 “한국어 및 한국 문화와 사회, 트렌드를 가장 잘 이해하고 있다”고 소개했다. SK텔레콤의 다양한 서비스를 지원하기 위해 사용되고 있어 멀티 도메인 확장을 위한 많은 노하우가 담겨 있다는 게 에릭 부사장의 이야기다.

경쟁사들이 범용으로 LLM을 개발하고 있는 것과 달리 SK텔레콤이 텔코 LLM을 개발하는 것과 관련해 에릭 부사장은 “범용 목적으로 개발된 언어모델은 언어 이해 및 추론 능력이 뛰어나지만, 일반적인 언어 지식으로는 통신 서비스에 특화된 용어 등을 이해하여 알맞은 답변을 생성할 수 없다”며 “통신사에서 제공하는 다양한 서비스 정책이나, 비즈니스 로직 등을 이해하고 문제를 해결하는 데에 한계가 있다”고 말했다. 이어 “통신 분야에 특화된 데이터와 도메인 지식을 학습한 통신 특화 LLM 모델이 필요했다”며 “텔코 LLM은 성능 평가 단계를 통해 고도화 과정을 거쳐 통신 서비스 업무 각 분야에 최적화된 서비스를 제공할 수 있다”고 밝혔다.

SK텔레콤의 텔코 LLM은 이른바 ‘멀티 LLM’이다. 자체 LLM과 더불어 앤트로픽의 ‘클로드’와 오픈AI의 ‘GPT’ 등을 활용한다. 에릭 부사장은 “하나의 LLM 모델로 통신사가 제공하는 다양한 서비스와 문제를 해결하기는 쉽지 않지만, 통신 관련 지식 및 데이터를 학습한 다양한 버전의 특화 LLM을 개발해 고객센터 지원뿐만 아니라 마케팅, 인프라, 법무 등 특화 LLM 중 가장 적합한 모델을 상황에 맞게 골라 쓸 수 있도록 한다는 게 SK텔레콤의 LLM 개발 방향”이라고 설명했다.

에릭 부사장은 SK텔레콤의 LLM 개발에서 개인정보의 보호 및 위험 발화 탐지 등 안전성과 신뢰성 영역을 최고 가치로 꼽았다. 그는 “SK텔레콤이 보유하고 있는 많은 데이터를 LLM 개발에 참고할 때 여러 차례에 걸친 개인정보 필터링 과정을 거쳐 개인정보 유출 문제가 발생하지 않도록 신경 쓰고 있다”고 말했다.

김건호 기자 scoop3126@segye.com