SKT, 한국어 기반 통신 서비스'텔코LLM' 6월 출시
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 인공지능(AI) 윤리가치와 같은 통신사의 내부 지침을 학습한 '텔코LLM'을 오는 6월 선보인다고 30일 밝혔다.
SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집, 정형·비정형 데이터를 선별해 이를 에이닷엑스, 'GPT', '클로드'에 학습시킴으로써 통신에 특화된 대규모언어모델(LLM)을 개발중이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집, 정형·비정형 데이터를 선별해 이를 에이닷엑스, 'GPT', '클로드'에 학습시킴으로써 통신에 특화된 대규모언어모델(LLM)을 개발중이다.
SKT는 텔코LLM을 구축하기 위해 우선 텔코 데이터를 수집하고 비정형·정형 데이터를 선별, 정제하는 작업을 한다고 설명했다. 이를 기반으로 범용 LLM을 통신사 전용으로 파인튜닝(미세조정)하는 과정을 거치고 휴먼 피드백 기반의 강화 학습(RLHF)을 한 후 최종 벤치마킹(모델 평가)을 하는 사이클을 거친다.
실제 텔코LLM이 답변한 내용에 대하여 상담사들이 품질, 만족도 등을 평가하는 과정을 거친다. 고객의 문의에 대해 유용한 답변을 했는지, 문맥을 제대로 이해했는지 등에 대해 채점하는 사람의 평가를 통한 강화학습이다. 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 파인튜닝 과정을 통해 계속 고도화 하는 방식으로 텔코LLM을 고도화하고 있다.
텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있다.
SKT는 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용할 계획이다.
SKT는 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축, 개발할 수 있는 '인텔리전스 플랫폼'도 공개했다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등까지 아우르는 일종의 '기업용 AI 개발·운용 패키지'다.
SKT는 멀티LLM을 쉽고 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 현재A.(에이닷) 등의 서비스 등에 적용 중이며, 적용 사례를 지속 확대할 예정이라고 밝혔다.
SK텔레콤 관계자는 "우리나라를 비롯해 글로벌 통신사들은 물론 상담업무 등 유사한 업무특성을 가진 기업들이 텔코 LLM 인텔리전스 플랫폼을 통해 거대 플랫폼 개발에 드는 비용과 시간을 절감할 수 있을 것으로 기대한다"고 밝혔다.
이재현 기자 jhyunee@mt.co.kr
Copyright © 머니S & moneys.co.kr, 무단 전재 및 재배포 금지
- [정비록] 분담금 폭탄은 예견된 일… 일반분양 '0' - 머니S
- "카카오보다 10%p 더"… 삼성화재, 해외여행 '할인카드' 띄웠다 - 머니S
- 김영석, '세월호 특조위 방해' 무죄 확정… 5960만원 형사 보상 - 머니S
- 3년째 구조조정 'LH', 하반기 103명 신규 채용한다 - 머니S
- 박성준 "영수회담 사진 찍기용 절대 안 돼… 국민 용납하지 않을 것" - 머니S
- [S리포트] 세계로 뻗어간 K-방산, '세금'으로 키웠다 - 머니S
- 서울대·세브란스병원 오늘 '셧다운'… 정부 "큰 혼란 없을 것" - 머니S
- 삼성SDI, 1분기 영업익 2674억원… 전년 比 28.8% ↓ - 머니S
- 中 알리·테무 공세에도… 韓 패션 플랫폼 3대장 "이상 무!" - 머니S
- '총선 청구서' 더 내고 더 받는 연금개혁 시동… '만 59세' 가입연령 올라가나 - 머니S