비용 낮추고 효율 높이고...SKT, Arm·리벨리온 손잡고 AI 서버 설루션 개발 나선다

CPU·NPU 결합 AI추론 서버 설루션 개발
SKT, 자사 AI DC에 해당 설루션 성능 검증

SK텔레콤이 글로벌 반도체 설계 기업 암(Arm), 국내 인공지능(AI) 반도체 스타트업 리벨리온과 협력해 AI 데이터센터의 효율을 높이는 차세대 서버 솔루션 개발에 착수한다.

SK텔레콤은 9일 암(Arm), 리벨리온과 ‘차세대 AI 인프라 혁신을 위한 전략적 파트너십’(MOU)을 체결했다고 밝혔다. 3사는 이번 협약을 통해 Arm의 신규 데이터센터용 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 차세대 NPU(신경망처리장치) ‘리벨카드’를 결합한 AI 추론 전용 서버 솔루션을 공동 개발한다. 실증은 SK텔레콤의 AI데이터센터에서 진행한다.

SK텔레콤 측은 이번 협력의 배경으로 AI 산업의 무게 중심이 거대 모델을 만드는 ‘학습’에서 실제 서비스를 제공하는 ‘추론’으로의 빠르게 이동하고 있다는 점을 꼽았다. AI 모델이 고도화될수록 365일 가동되는 추론용 서버의 전력 소모가 데이터센터 운영 비용과 직결되기 때문이다.

그동안 추론 영역에서도 널리 쓰였던 GPU는 범용성은 높지만 전력 소모가 크고 도입 비용이 높다는 한계가 있었다. 반면 이번에 개발하는 ‘CPU+NPU’ 기반 이종 컴퓨팅(Heterogeneous Computing) 구조는 시스템 운영과 데이터 처리를 담당하는 CPU와 AI 연산에 특화된 NPU의 장점을 결합해 성능과 비용 효율을 동시에 잡을 수 있는 것이 특징이다.

특히 이번 솔루션에 탑재되는 ‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서로 AI 추론 서비스에 최적화돼 있으며, 리벨리온의 ‘리벨카드’도 대규모 AI 추론에 특화된 국산 NPU다. 이와 관련해 Arm과 리벨리온은 이미 지난 3월 각 사의 칩을 결합해 오픈 AI의 언어모델인 ‘GPT OSS 120B’ 기반의 에이전틱 AI 서비스를 실시간으로 시연하며, 대규모 데이터센터에서의 상용화 가능성을 입증한 바 있다.

향후 SK텔레콤은 해당 설루션이 적용된 서버를 자사 AI 데이터센터에 적용해 성능과 안정성을 검증하는 한편, 자체 개발한 AI 파운데이션 모델 ‘에이닷엑스 케이원’(A.X K1)을 운영하는 방안도 검토 중이다. 이를 통해 저전력·고효율 인프라 경쟁력을 확보하고 글로벌 AI 데이터센터(DC) 시장 공략에 속도를 낼 계획이다.

이재신 SK텔레콤 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.

에디 라미레즈(Eddie Ramirez) Arm 클라우드 AI 사업부 GTM 부사장도 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며 “SK텔레콤, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.

오진욱 리벨리온 최고기술책임자(CTO)는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며 “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 강조했다.