[인터뷰] SKT 김태윤 부사장 “초거대 AI ‘A.X K2’는 일하는 AI”
SKT 독자 초거대 AI 모델 경쟁력은?
[대한경제=심화영 기자]“해외 오픈소스 모델과 비교했을 때 A.X K2만의 경쟁력은 무엇인가.”
SK텔레콤이 지난달 29일 독자 기술로 완성한 초거대 AI 파운데이션 모델 ‘A.X K2’를 공개하며, 단순히 대화에 응답하는 AI를 넘어 업무를 직접 수행하는 ‘일하는 AI(Agentic AI)’ 시대로의 대전환을 선언했다. 김태윤 SK텔레콤 파운데이션 모델 담당(부사장)은 이 질문에 한국어·한국 문화에 대한 이해, 데이터 구축 과정에서 확보한 신뢰성과 보안, 특정 기업이나 정책에 종속되지 않는 개방성 등 세 가지를 꼽았다.
김 담당은 특히 “한국에서 실제로 활용되는 AI라면 한국어와 한국 문화에 대한 이해가 중요하다”고 강조했다. A.X K2는 한국어 지식 평가인 KMMLU-Pro에서 80.5점, 한국 문화 이해 평가인 CLIcK에서 91.6점을 기록했다. 국내 업무 문서뿐 아니라 법무·세무·의료 등 한국적 맥락에 대한 이해가 중요한 분야에서 경쟁력을 확보할 수 있다는 설명이다.
데이터 구축 과정의 신뢰성도 강조했다. A.X K2의 학습 데이터는 과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트를 통해 검증된 절차에 따라 다뤄졌다. 김 담당은 이를 바탕으로 기업과 공공기관이 안심하고 활용할 수 있는 데이터·모델 생태계를 구축하겠다는 구상이다.
SK텔레콤은 생태계 개방에도 무게를 두고 있다. 특정 기업이나 정책에 종속되지 않고 다양한 기업과 개발자가 활용하고 확장할 수 있는 모델을 지향한다는 것이다. 이 같은 전략을 바탕으로 SK텔레콤은 A.X K2의 모델 규모와 성능을 지속적으로 끌어올린다는 방침이다.
이번에 베일을 벗은 A.X K2는 총 6880억개(688B)의 매개변수를 갖춘 초거대 언어모델이다. 이전 모델인 A.X K1 대비 14개 주요 벤치마크 평균 성능이 32.2%p 향상됐고, 특히 장문 이해와 에이전트 역량 평가에서는 83.9%포인트(p) 개선 폭을 기록했다.
김태윤 담당은 이번 A.X K2의 핵심을 “‘답하는 AI’에서 ‘스스로 계획하고 실행하는 AI’로의 체질 개선”으로 정의했다. 특히,눈여겨볼 점은 ‘비용 효율성’이다. 모델 규모는 688B로 커졌지만, 실제 추론 시 활성화되는 매개변수는 33B로 유지하는 독자 아키텍처를 적용해 추론 비용 증가 없이 성능을 극대화했다.
AI 에이전트가 긴 문서를 참조하고 여러 차례 도구를 호출하는 실제 업무 환경에서는 문맥이 길어질수록 속도와 안정성이 떨어지는 한계가 있다. SKT는 이를 극복하기 위해 독자 어텐션 구조인 SGA(Sparse Gated Attention)를 도입했다.
300페이지가 넘는 장편소설 한 권 분량(120K 토큰)의 입력을 기준으로, A.X K2는 기존 대비 토큰 처리량을 67.7%나 끌어올렸다. 이를 통해 긴 대화와 복잡한 과업이 반복되는 에이전트 환경에서도 빠르고 안정적인 서비스 제공이 가능해졌다.
SK텔레콤은 대형 모델인 A.X K2를 중심에 두면서도 산업 현장에 곧바로 적용할 수 있는 경량화 파생 모델을 함께 구축하는 ‘선택과 집중’ 전략을 취하고 있다.
시각·언어 모델인 ‘A.X K2 VL Light-Preview’는 제조 도면과 문서, 차트 등을 분석하는 데 초점을 맞췄다. 음성·언어 모델인 ‘A.X K2 ALM’과 ‘Raon-Speech’는 상담과 회의 지원은 물론 보이스피싱 실시간 탐지 등 음성 기반 업무에 활용할 수 있다.
실제 산업 현장에서의 적용도 속도를 내고 있다. 철강 기업 KG스틸, 자동차 부품 기업 코넥과는 과거 불량 사례를 학습해 원인을 분석하고 적절한 조치 방안을 안내하는 제조 특화 AI 에이전트 실증을 추진하고 있다. SK하이닉스 사내 AI 도구에는 경량 모델을 연동해 반도체 전문 지식을 검색하고 관련 정보를 정리하는 기능을 지원하고 있다.
국방·공공 등 보안이 중요한 분야를 겨냥한 대응책도 마련했다. 기밀 데이터의 외부 반출을 차단할 수 있는 온프레미스 폐쇄망 환경을 구축하고, 모델의 크기를 줄이는 양자화(Quantization) 기술을 적용해 국방부 등으로 공급 영역을 확대한다는 계획이다.
심화영 기자 dorothy@
〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉
Copyright © 대한경제