SK텔레콤, '韓 통신 특화 LLM' 6월 출시… "서비스 따라 LLM 골라 쓰는 멀티 전략"

“1개의 범용 LLM으로 통신 서비스 문제 해결 쉽지 않아”
통신3사, LLM으로 신성장동력 모색

에릭 데이비스 SK텔레콤 인공지능(AI) 테크 콜라보레이션 담당이 30일 서울 중구 을지로 본사 수펙스홀에서 '텔코 초거대언어모델(LLM)'을 설명하고 있다./안상희 기자

“1개의 범용 초거대언어모델(LLM)로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않습니다. 결국 서비스 유형에 맞춰 LLM을 골라쓰는 ‘멀티 LLM’ 전략이 필요합니다. 속도와 비용 측면에서도 멀티 LLM 전략이 효과적입니다.”

에릭 데이비스 SK텔레콤 인공지능(AI) 테크 콜라보레이션 담당은 30일 서울 중구 을지로 본사 수펙스홀에서 ‘텔코 초거대언어모델(LLM)’ 설명회를 열고 “오는 6월 중 한국 통신업에 특화된 LLM 개발을 완료할 계획”이라며 이같이 밝혔다.

SK텔레콤이 말하는 ‘텔코 LLM’은 하나의 LLM이 아닌 SK텔레콤의 LLM 에이닷엑스(A.X), 오픈AI의 ‘GPT-4′, 앤트로픽의 ‘클로드’ 등 다양한 범용모델에서 상황에 따라 필요한 LLM을 골라쓰는 방식을 말한다. SK텔레콤은 범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다고 판단했다. 이 때문에 통신 관련 데이터를 추가로 학습해 이 문제를 해결하고자 텔코 LLM 전략을 내세운 것이다.

(SK텔레콤 제공)

텔코 LLM을 선보이기 위해 SK텔레콤은 통신사의 방대한 양의 데이터를 수집해 정형·비정형 데이터를 선별해 이를 파인튜닝(미세조정), 강화학습(RLHF)하는 과정을 거쳐 에이닷엑스, ‘GPT’, ‘클로드’에 학습시켰다. 이 때문에 SK텔레콤은 텔코 LLM 개발에 있어 오픈AI, 앤트로픽 등과 협력하고 있다.

SK텔레콤은 텔코 LLM 개발이 완료되면 한국어 서비스를 먼저 시작하고, 해외 기업들과 글로벌 버전 개발에 대한 합의를 완료하면 글로벌 버전도 선보일 계획이다.

데이비스 담당은 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고, 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK텔레콤만의 멀티LLM 전략”이라고 설명했다. 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 한다는 이야기다. 회사 측은 “텔코 LLM은 범용 LLM과 달리 5G(5세대 이동통신) 요금제, T멤버십, 공시지원금 등 한국 통신업에 특화된 성능을 발휘할 것”이라며 “비용절감, 상담처리 시간 단축, 네트워크 인프라 운용에 유용할 것”이라 설명했다.

통신산업의 성장이 정체된 SK텔레콤 외 다른 통신사들도 LLM 모델을 통해 신성장동력 확보에 나서고 있다. 특히 통신사들은 LLM을 활용해 기존 기업과소비자간거래(B2C) 중심의 사업모델에서 벗어나 기업간거래(B2B)에서의 성장을 모색하고 있다.

KT는 지난해 10월말 초거대 AI ‘믿음’을 선보였다. 당시 회사는 믿음을 통해 기업 대상 LLM 사업화를 가속하고, 궁극적으로 기업 고객이 원하는 AI 사업 모델과 응용 서비스의 확산을 이끌 계획이라고 설명했다. KT는 B2B 시장 공략을 위해 글로벌, 제조, 금융, 공공, 교육을 초거대 AI 사업을 확장할 5대 영역으로 규정하고, 업스테이지·콴다·에누마·비아이매트릭스 등과 협업하고 있다. 이를 위해 출시하는 모델도 경량부터 초대형에 이르기까지 기업 규모와 사용 목적에 맞게 완전 맞춤형(Full Fine-Tuning)으로 사용할 수 있도록 했다.

LG유플러스는 LG AI연구원이 선보인 초거대 AI 모델 ‘엑사원’을 바탕으로 자체 개발한 소형언어모델(sLLM) ‘익시젠’을 상반기 중 선보일 계획이다. 익시젠은 통신 데이터와 생성형 AI를 결합했다. 특히 LG유플러스는 기업과소비자간거래(BtoC)외 기업간거래(B2B) 영역에서 익시젠 적용범위를 확대하고자 한다.

- Copyright ⓒ 조선비즈 & Chosun.com -