SKT, Arm·리벨리온과 AI 서버 솔루션 개발…데이터센터 효율 높인다

CPU·NPU 결합해 효율 개선

AI 추론 서버 솔루션 개발 협력 구조. SKT 제공

SK텔레콤은 지난 9일 글로벌 반도체 설계 기업 Arm, 국내 인공지능(AI) 반도체 스타트업 리벨리온과 차세대 AI 인프라 구축을 위한 전략적 협약(MOU)을 체결했다고 12일 밝혔다.

이번 협력의 핵심은 중앙처리장치(CPU)와 신경망처리장치(NPU)를 결합한 서버 솔루션이다. Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드’를 함께 탑재해 AI 추론 성능을 높이는 방식이다.

최근 AI 산업은 모델을 학습시키는 단계에서 실제 서비스를 제공하는 ‘추론’ 단계로 진화하고 있다. 추론은 상시 운영되는 만큼 전력 효율과 비용이 경쟁력으로 직결된다.

기존 그래픽처리장치(GPU) 기반 구조는 추론 작업에 사용할 수는 있지만 전력 소모와 비용 부담이 크다는 한계가 있다. 이에 업계에서는 추론에 특화된 NPU가 대안으로 떠오르고 있다.

CPU와 NPU를 결합한 구조는 역할을 분담해 효율을 높인다. CPU가 시스템의 ‘관제탑’ 역할을 하며 데이터 처리와 시스템 운영을 총괄하고, NPU가 AI 추론 연산을 맡는 ‘이종 컴퓨팅’ 방식이다.

SK텔레콤은 이들이 공동 개발한 솔루션을 회사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 자체 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1) 운영에 활용하는 방안도 검토 중이다.

SK텔레콤은 이번 협력을 통해 저전력·고효율 기반의 AI 추론 인프라를 확보하고 데이터센터 사업 경쟁력을 강화할 계획이다.

이혜선 기자 hslee@dt.co.kr