"엔비디아 GPU보다 전기 절반 쓰고도 AI처리량은 두 배"

백준호 퓨리오사AI 대표

인공지능(AI) 가속기를 똑같이 8개씩 얹은 서버 두 대가 있다. 한 대는 3킬로와트(㎾), 다른 한 대는 6.6㎾의 전기를 쓴다. 그런데 같은 품질로 받아내는 동시 사용자는 전기를 절반만 쓰는 쪽이 두 배 가까이 많다. 전기를 덜 먹는 쪽에 얹힌 것은 국산 신경망처리장치(NPU) '레니게이드', 두 배 넘게 쓰는 쪽은 엔비디아 그래픽처리장치(GPU)다.

퓨리오사AI가 오픈소스 모델 큐원(Qwen)3-32B로 엔비디아의 기업용 GPU인 RTX 프로 6000과 나란히 놓고 측정한 결과다.

최근 매일경제와 만난 백준호 퓨리오사AI 대표(사진)는 "데이터센터에서 쓸 수 있는 전력과 랙 공간은 정해져 있다"며 "전력 효율이 높다는 것은 전기요금을 줄이는 차원이 아니라 같은 데이터센터에서 더 많은 토큰을 생산할 수 있다는 의미"라고 말했다.

다만 그는 "모든 NPU가 모든 GPU보다 효율적이라고 일반화할 수는 없다"며 "정확히는 주요 기업용 추론 환경에서 같은 서비스 품질을 유지하면서 전력당 서비스 용량을 1.8~2배 높일 수 있다는 뜻"이라고 설명했다.

레니게이드는 지난 1월 말 양산에 들어갔다. 올해 생산 계획은 약 2만장으로 10메가와트(㎿)급 AI 데이터센터를 채울 규모다. 회사에 따르면 삼성SDS는 삼성 클라우드 플랫폼에 레니게이드 기반의 구독형 NPU 서비스를 출시했다.

그는 정부 지원 방식도 산업이 성장하는 단계에 맞춰 달라져왔다고 평가했다.

백 대표는 "칩을 만드는 것은 끝이 아니라 경쟁의 시작"이라며 "3년 뒤 세계 어디서든 대규모 추론 인프라를 구축할 때 자연스럽게 검토되는 솔루션이 되는 것이 목표"라고 말했다.

[김대기 기자]