SK텔레콤 'AX 혁신 2.0' 로드맵 공개···데이터·조직 다시 짠다

한때 7000개였던 에이전트 1500개로 효과·비용 따져 필터링해
데이터 31만개 항목에 업무 맥락 추가···정답률 40%→80%
접근 권한·보안·평가체계 전사 관리···조직 생산성 입증은 과제

김인수 SK텔레콤 AI Board 팀장이 지난달 30일 'AX캠프' 2일 차 행사에서 SK텔레콤의 전사 AX(AI 전환) 현황과 사내 적용 사례를 발표하고 있다. / 사진=김도영 기자

[시사저널e=김도영 기자] SK텔레콤의 AX(AI 전환) 전략이 에이전트를 확산하는 단계에서 데이터와 조직 운영체계를 손보는 단계로 넘어간다. 사내 에이전트가 한때 7000개까지 늘었다가 실제 효과를 따지는 과정을 거쳐 1500개 수준으로 추려진 데다 데이터 접근과 보안, 이용 비용을 관리할 전사 체계의 필요성이 커지면서다. SK텔레콤은 데이터와 업무 절차를 AI 중심으로 재설계하고 에이전트 평가체계를 마련해 개인의 활용 성과를 조직 생산성으로 확산한다는 구상이다.

SK텔레콤은 지난달 30일 'AX캠프' 2일 차 행사에서 'AX 혁신 2.0'의 구체적인 실행 방안을 공개했다. 이번 브리핑은 SK텔레콤의 전사 AX 현황과 사내 적용 사례를 공유하기 위해 마련됐다. 브리핑을 맡은 김인수 SK텔레콤 AI Board 팀장은 "1.0에서는 각자가 에이전트를 만들어 써보고 개인의 성과를 만드는 데서 시작했다"며 "2.0부터는 개인을 넘어 조직의 성과를 만드는 방향으로 가고 있다"고 말했다.

SK텔레콤은 지난 3월 비개발 직군을 포함한 전 구성원이 자신의 업무에 특화된 AI를 만드는 '1인 1 AI 에이전트' 전략을 제시했다. 5월에는 구성원이 업무 방식을 AI에 학습시키는 '에이닷 비즈 코워크' 베타를 사내에 적용하고 전사 AX 과제를 관리하는 AXMS를 1.5 버전으로 고도화한 바 있다. 6월에는 AI 에이전트 사번제와 AX 샌드박스 등을 담은 AX 혁신 2.0을 발표했다. 

SK텔레콤에 따르면 현재 AI 에이전트를 직접 만들어 본 구성원은 4000명을 넘어섰고 월간 이용자는 7500명 이상으로 집계됐다. 사내에서 정기적으로 활용되는 에이전트도 약 1500개에 달한다. 한때 만들어진 에이전트는 약 7000개까지 늘었지만 SK텔레콤은 실제 활용도와 업무 효과를 따져 필요한 에이전트를 가려내는 과정을 거쳤다.

김 팀장은 "1500개로 상당히 압축됐지만 에이전트 수를 줄이는 것이 목적은 아니다"며 "각각 얼마나 효과를 내는지, 회사가 여기에 토큰 비용을 지불할 가치가 있는지를 평가하고 있다"고 설명했다. 성과에 따라 에이전트 수는 다시 늘거나 줄어들 수 있다는 것이다.

에이전트가 확산하면서 개인 차원에서 해결하기 어려운 과제도 나타났다. 조직 업무를 AI에 맡기려면 사내 데이터와 전사적자원관리(ERP), 전자결재, 이메일 등 여러 시스템을 연결해야 한다. 데이터 접근 권한과 보안 규정, AI 모델 이용 비용을 관리할 주체도 필요하다. 김 팀장은 "개인이 풀 수 있는 문제는 대부분 많이 풀린 것 같다"며 "이제는 회사가 지원해야 하는 어려운 문제들이 새로운 과제로 부각됐다"고 말했다.

◇ AI가 못 읽는 사내 데이터···외부 LLM 쓰면 연 1~2억원

SK텔레콤은 AI가 사내 데이터의 의미를 이해하도록 돕는 '데이터 데스크'를 마련했다. 기존 기업 데이터는 시스템과 개발자 중심으로 관리돼 영문과 숫자로 구성된 항목명만으로 어떤 정보가 담겼는지 파악하기 어렵다. SK텔레콤은 네트워크 관련 데이터베이스 2000여개에 포함된 약 31만개 컬럼에 설명과 업무상 의미를 붙이는 작업을 진행했다.

해당 데이터를 외부 거대언어모델(LLM)로 반복해서 분석하면 연간 1~2억원의 비용이 들 수 있다는 게 회사 측 설명이다. 데이터가 수시로 갱신돼 같은 작업을 반복해야 하기 때문이다. 김 팀장은 "31만개 컬럼을 외부 LLM으로 모두 처리하려면 호출량이 상당히 많아 연간 1~2억원 정도가 들 것으로 추산했다"며 "SK그룹의 AI 풀스택과 A.X K1 등 로컬 모델을 활용해 데이터에 의미와 설명을 붙이고 있다"고 말했다.

데이터를 정비하자 질의 정확도도 높아졌다. SK텔레콤에 따르면 별도의 설명이 없는 데이터를 기반으로 질문을 처리했을 때 약 40%에 머물렀던 에이전트의 정답률은 컬럼의 의미와 업무 맥락을 추가한 뒤 80% 이상으로 상승했다. 모델 자체의 성능뿐 아니라 기업 데이터를 AI가 이해할 수 있는 형태로 정리하는 작업이 AX 성과를 좌우할 수 있다는 의미다.

민감한 데이터를 AI에 직접 전달하기 어려운 문제에는 'Z.E.Z(Zero Exposure Zone)' 기술을 적용한다. 개인정보와 민감정보가 포함된 원문은 별도 보호 영역에서 처리하고 AI 에이전트에는 메타데이터와 비교 토큰, 계산값 등 판단에 필요한 결과만 전달하는 구조다. 의료비 정산 과정에서도 환자 이름이나 병명 등의 원문을 AI에 넘기지 않고 정산 대상 여부 등 필요한 정보만 가공해 제공한다. SK텔레콤은 해당 기술을 사내 에이전트에 적용하고 특허도 출원했다.

◇ 개인이 못 푸는 권한·보안 문제···전사 관리체계 구축

SK텔레콤은 현장에서 공통으로 겪는 문제를 전사 차원에서 해결하기 위해 'AX 이네이블러 태스크포스(TF)'를 운영한다. TF는 데이터·시스템 연계와 접근 권한, 보안 등 AI 활용에 필요한 기반을 마련한다. AI 에이전트 사번제와 평가체계도 도입해 이용 비용과 성과를 관리할 계획이다. SK텔레콤은 지난 6월부터 에이전트에 소속과 직무, 권한을 부여하고 사람과 유사한 절차로 관리하는 방안을 추진해 왔다.

조직의 업무를 AI 중심으로 다시 설계하는 'AX 샌드박스'도 확대한다. 상반기에는 서비스 개발 업무를 대상으로 한 구성원이 AI 에이전트와 함께 기획·개발·검증을 수행하는 실험을 약 3개월간 진행했다. 기획과 개발, 품질검증(QA) 조직을 기능별로 나누는 대신 한 사람이 여러 역할을 맡아 의사결정 단계를 줄이는 방식이다. 하반기에는 전사 각 조직으로 범위를 넓혀 일반 업무까지 재설계하고 있다.

김 팀장은 "한 조직의 특정 업무를 통째로 AI 중심으로 다시 설계하는 실험"이라며 "특정 업무 전체를 AI가 맡을 수 있는지, 사람은 그 안에서 어떤 역할을 해야 하는지를 살펴보고 있다"고 말했다. 개인의 업무 편의를 높이는 수준을 넘어 사람과 여러 AI 에이전트가 함께 일할 때 조직의 생산성이 얼마나 높아지는지 확인하는 단계다.

현장에서 AI 전환을 주도할 구성원 10명은 지난 9월 'AX 카탈리스트' 1기로 선발됐다. 자신의 업무에서 문제를 찾아 AI로 해결해 온 현업 구성원에게 모델 이용 비용과 기술, 데이터 연계를 지원하는 제도다. 이들이 데이터와 시스템 접근, 권한과 보안 문제를 찾아내면 AX 이네이블러 TF가 함께 해결해 다른 구성원이 같은 장벽을 반복해서 겪지 않도록 한다.

구성원과 조직의 업무를 AI가 이해할 수 있는 형태로 정리하는 '워크맵'도 추진한다. AI가 핵심성과지표(KPI)와 기존 자료를 바탕으로 업무 흐름의 초안을 만들면 구성원과 대화하면서 일의 순서와 판단 기준, 다른 업무와의 연결 관계를 보완하는 방식이다. 김 팀장은 "내비게이션을 이용하려면 지도가 먼저 있어야 하듯 워크맵이 있어야 AI 에이전트가 업무를 수행할 수 있다"고 말했다. SK텔레콤은 개인과 팀, 조직의 업무 맥락을 자산화해 에이전트 설계 설명서로 활용한다는 구상이다.

SK텔레콤은 AI 도입 초기에 재교육과 업무 재설계, 데이터·조직 정비로 생산성이 일시적으로 떨어지는 구간을 'AX J커브의 골짜기'로 보고 있다. AX 혁신 2.0은 데이터와 조직 운영체계를 손봐 이 구간을 줄이고 개인의 활용 성과를 조직 전체로 확산하기 위한 시도다. 조직 단위의 생산성과 사업 성과를 얼마나 입증할 수 있을지가 SK텔레콤 AX 전략의 성패를 가를 전망이다.