SKT, '국산 AI 반도체' 적용된 데이터센터 공개…"소버린 AI 확대"

과기정통부, 'K-엔비디아 육성 프로젝트' 현황 파악
SKT·리벨리온, NPU 기반 에이닷 전화요약·엑스칼리버 구현 사례 소개

이도규 과기정통부 정보통신 정책실장이 29일 SK텔레콤의 인천 AI 서비스 전용 데이터센터에 방문해 국산 신경망처리장치(NPU) 적용 현황 등을 점검했다. 사진은 지난 22일부터 24일까지 서울 강남구 코엑스에서 열린 '월드IT쇼'에 SK텔레콤 부스에 마련된 AI 데이터센터 서버실 공간이다. /최문정 기자

[더팩트ㅣ최문정 기자] SK텔레콤의 인공지능(AI) 인프라 핵심 기지인 인천 AI 서비스 전용 데이터센터에 유관기관 관계자 등이 방문해 현장 점검에 나섰다.

SK텔레콤은 29일 이도규 과기정통부 정보통신 정책실장이 정부가 추진 중인 'K-엔비디아 육성 프로젝트' 산업 현장 방문 차 자사의 데이터센터를 찾았다고 밝혔다. 이 실장은 국산 신경망처리장치(NPU) 적용 현황을 중심으로 현장을 시찰했다. 이날 현장 점검에는 박병관 SK텔레콤 코어플랫폼담당과 박성현 리벨리온 대표 등이 동행했다.

최근 AI 산업의 중심은 대규모 학습에서 '실시간 추론'으로 옮겨가고 있다. 실시간 추론 연산을 원활히 처리하려면 이에 특화된 칩셋인 NPU가 필수적이다. 정부도 지난달 개최된 민관 합동 간담회에서 NPU를 중심으로 국산 AI 반도체 생태계를 구축하겠다고 선언했다. 정부는 국민성장펀드를 통해 AI·반도체 분야에 5년간 50조원, 올해 10조원 규모의 장기 인내자본을 공급키로 했다. 또한 오는 2030년까지 AI 반도체 글로벌 유니콘 5곳을 배출한다는 목표를 제시했다.

현재 SK텔레콤의 인천 AI 서비스 전용 데이터센터에는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU '아톰'과 '아톰 맥스'를 탑재한 서버가 설치돼 있다.

박병관 담당은 "SK텔레콤은 아톰과 아톰 맥스 기반 서버를 에이닷 전화 통화요약·엑스칼리버(반려동물 영상진단 보조 서비스)에 적용하고 있으며, 향후 아톰 맥스 기반의 상용 서비스를 지속 확대할 계획"이라고 설명했다.

에이닷 전화 통화요약은 SK텔레콤의 자체 거대언어모델(LLM) '에이닷엑스'를 기반으로 한 AI 서비스다. 현재 하루 최대 5000만건의 API 호출을 처리하고 있다. 이는 AI 모델 구축 운영 등 소프트웨어 측면부터 칩셋과 데이터센터 등 하드웨어 측면까지 수직적으로 통합된 '풀스택 AI'의 예시이기도 하다.

SK텔레콤은 리벨리온과 자회사 사피온코리아를 합병했다. 이를 토대로 자사 데이터센터와 AI 서비스 전반에 리벨리온 NPU를 적용하며 국산 NPU 생태계 확대에 나서고 있다. 지난달 양사는 글로벌 반도체 설계 기업 Arm과 3자 업무협약을 체결하고, 중앙처리장치(CPU)와 NPU를 결합한 AI 추론 서버 공동 개발에 착수했다.

아울러 SK텔레콤과 리벨리온은 정부의 '독자 AI 파운데이션 모델' 프로젝트에도 함께 참여하고 있다.

SK텔레콤 관계자는 "국가 간 AI 기술 경쟁이 심화되는 가운데 국내 AI 생태계의 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소"라며 "국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI'를 확대해 나갈 계획"이라고 밝혔다.

jay09@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write