SKT, 엔비디아·리벨리온과 AI 추론 가속…전력 효율 높인다

GPU 입력 분석·NPU 결과 생성…연산 역할 분담

SK텔레콤이 엔비디아, 리벨리온과 손잡고 한국형 소버린 인공지능(AI) 인프라 구축을 위한 통합 시스템 개발에 나선다. SKT 제공

| 서울=한스경제 김진영 기자 | SK텔레콤이 엔비디아, 리벨리온과 손잡고 한국형 소버린 인공지능(AI) 인프라 구축을 위한 통합 시스템 개발에 나선다.

SK텔레콤은 9일 서울 코엑스에서 열린 'NVIDIA AI Day Seoul' 행사에서 엔비디아, 리벨리온과 GPU·NPU 통합 시스템 개발 업무협약(MOU)을 체결했다고 9일 밝혔다.

이번 협약에 따라 3사는 엔비디아 GPU 간 데이터 전송 기술을 타사 반도체로 확장한 'NVLink Fusion'을 활용한다. 리벨리온이 개발하고 있는 NPU 'Rebel R200'을 엔비디아 플랫폼에 연결하고, 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용해 서버 랙 단위 GPU·NPU 통합 시스템을 개발할 계획이다.

최근 에이전틱(Agentic) AI 확산으로 추론 요청이 늘면서 AI 데이터센터(DC)의 전력 효율과 운영비용 경쟁력이 부각되고 있다. 추론 과정 중 질문을 분석하는 '프리필' 단계는 고성능 연산 중심의 GPU가 맡고, 단어를 순차 생성하는 '디코드' 단계는 메모리 데이터 처리에 유리한 리벨리온 NPU가 맡는 '분리형 추론' 방식을 적용해 속도와 전력 효율을 높인다는 구상이다.

SKT는 AI DC 구축·운영 경험을 토대로 통합 시스템을 AI DC에 도입해 성능과 안정성을 실증하고 상용화 가능성을 검토한다. 아울러 독자 AI 모델과 '모두의 AI' 등 대국민 AI 서비스를 연결해 풀스택 소버린 AI 체계를 갖출 방침이다. 3사는 과학기술정보통신부 정책에 맞춰 공공과 민간 전반의 서비스 기반도 구축하기로 했다.

정석근 SKT CTO 겸 AI CIC장은 "이번 협력은 엔비디아 GPU와 리벨리온 NPU의 강점을 결합해 추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증하는 데 의미가 있다"며 "SKT는 AI DC 구축·운영 경험과 독자 AI 모델 A.X K2, '모두의 AI' 같은 대국민 서비스 역량을 바탕으로 풀스택 소버린 AI 경쟁력을 강화하고, 공공과 민간이 실제로 활용할 수 있는 소버린 AI 인프라 생태계를 만들어 가겠다"고 밝혔다.

아쉬시 카란디카르 엔비디아 부사장은 "한국은 세계적인 반도체 기술력과 우수한 인재를 바탕으로 소버린 AI를 선도할 잠재력을 갖추고 있다"며 "NVLink Fusion은 한국의 주문형 반도체(ASIC)를 엔비디아의 AI 팩토리 플랫폼과 결합해 고성능 AI 인프라를 구현할 수 있도록 지원한다"고 전했다.

박성현 리벨리온 대표는 "오늘의 발표는 한국의 AI 반도체와 모델을 글로벌 기술과 결합해 대한민국의 소버린 AI 생태계를 확장하는 중요한 전환점"이라며 "엔비디아, SKT와 차세대 AI 인프라를 함께 설계하고, 한국이 만든 기술이 세계의 AI를 움직이는 핵심 축으로 성장하도록 하겠다"고 말했다.