김동건 퓨리오사AI 상무 “AI 수요 폭증, GPU보다 효율적인 인프라 필요” [2026 AI&CLOUD]

"늘어나는 인공지능(AI) 토큰 수요를 충족시키기 위한 에너지와 데이터센터 규모에는 한계가 있다. 이제는 '효율성'을 고려할 때다. '레니게이드(RNGD)'는 현재 그래픽처리장치(GPU) 대비 에너지 효율에서 두 배 가량 높고, 주요 AI 모델 구동을 지원하고 있다."

김동건 퓨리오사AI 프로덕트 총괄(상무)은 12일 서울 중구 프레스센터서 IT조선 주최로 열린 'AI&CLOUD 2026 콘퍼런스'에서 퓨리오사AI의 2세대 칩 'RNGD(레니게이드)'를 소개하면서 이와 같이 밝혔다.

조선미디어그룹의 ICT 전문 미디어 IT조선이 주최하고 과학기술정보통신부, 정보통신기획평가원(IITP), 한국지능정보사회진흥원(NIA), 정보통신산업진흥원(NIPA)이 후원한 'AI&CLOUD 2026' 콘퍼런스가 12일 서울 중구 프레스센터에서 열렸다. 'AI 경제 대전환: AI 인프라 주권과 산업 전환'을 주제로 열린 이번 콘퍼런스는 기조연설과 다양한 세션을 통해 클라우드에서 AI, 양자컴퓨팅으로 이어지는 기술 변화의 흐름을 트렌드를 넘어 경제 질서 전환의 관점에서 다뤘다.

김동건 퓨리오사AI 프로덕트 총괄(상무) / IT조선

김동건 상무는 이 자리에서 "현재 글로벌 AI 인프라 시장은 빠르게 성장하고 있고, 훈련에서 추론 시장 위주로 전환되고 있다"며 "2030년에는 100GW(기가와트) 이상 규모의 AI 인프라 중 70%가 추론에 활용될 것"이라고 제시했다. 

이어 "2025년 3분기 기준 1300조 토큰이 사용되고 있다"며 이는 단순한 챗봇으로의 AI 활용을 넘어 에이전틱 AI, 비디오와 이미지를 다루는 모델 등에 따른 것이고 인공 일반 지능(AGI) 시대에는 더 많은 토큰이 쓰일 것이라 덧붙였다.

하지만 이렇게 늘어나는 컴퓨팅 수요를 모두 만족시키기는 현실적으로 어렵다. 김 상무는 "공급 가능한 에너지와 기업이 확보 가능한 데이터센터 규모에는 한계가 있다"며 "효율적으로 컴퓨팅 수요를 충족할 방법이 필요하다"고 말했다. 이어 향후 필요할 전력효율적 추론을 위해서는 쓰기 편한 범용성과 높은 성능, 효율의 균형이 잡힌 아키텍처가 필요하다고 제시했다.

퓨리오사AI의 AI칩이 사용하는 'TCP' 아키텍처는 효율적으로 AI 연산을 처리하기 위해 병렬화와 데이터 이동의 효율에 집중했다고 제시했다. 이러한 아키텍처가 적용된 2세대 칩 RNGD(레니게이드)는 48GB의 HBM메모리를 갖추고 512TFLOPS(테라플롭스) 연산 성능을 180W TDP(열설계전력)로 구현할 수 있다. 

특히 소비전력 측면에서는 현재 시장에서 경쟁하는 GPU 대비 절반에서 3분의1 정도에 불과하다고 소개했다. 이 'RNGD' 카드를 8장 탑재한 서버 시스템도 준비됐는데, 대부분의 기업 데이터센터 환경에서 무리없이 쓸 수 있는 3000W 정도의 낮은 소비전력을 가진 것이 특징이다. 

퓨리오사AI의 RNGD는 AI 서비스 환경에서 엔비디아의 'RTX 프로 6000' GPU 대비 더 빠른 첫 토큰 생성과 동급의 처리량을 보이면서도 전력 효율은 30~100%까지 더 높았다. 또한 공급 가능한 전력이 제한되고 사용자당 제공해야 할 최소 성능 수준이 지정된 실제 서비스 환경에서는 랙당 두 배 많은 사용자들을 수용할 수 있다.

사용성 측면에서도 충분히 실용적으로 활용할 수 있는 준비를 마쳤다. RNGD는 이미 라마(Llama)나 GPT-OSS, 업스테이지 솔라, LG AI 연구원의 엑사원 등 주요 모델들을 지원한다. 오픈AI의 한국지사 개소식에서 GPT-OSS 120B 모델을 시연하기도 했다.

김동건 상무는 "실제 RNGD를 사용한 고객들이 필요한 성능을 충족함은 물론, 사용성도 좋다고 평했다"고 밝혔다. 고객들이 실제 RNGD 기반 환경에서 애플리케이션을 검증할 수 있도록 1280개 RNGD로 구성된 데이터센터 환경도 갖췄다고 덧붙였다.

현재 퓨리오사AI는 2세대 칩 RNGD의 양산을 시작했고 올해 2만장 공급을 목표하고 있다. 김 상무는 "현재 시장에 컴퓨팅 수요가 높은 상황이라 카드가 생산되는 즉시 고객에 전달되고 있다"고 말했다. RNGD 기반 랙스케일 시스템도 준비하고 있는데, 랙당 64개 RNGD를 탑재한 공랭식 구성이 올해 하반기, 랙당 200개 RNGD를 탑재한 수랭식 구성이 내년에 선보일 계획이다.

퓨리오사AI는 RNGD 이후 3세대 칩도 2028년을 목표로 준비하고 있으며, '베라 루빈' 이상을 목표로 제시했다. 김동건 상무는 "차세대 '베라 루빈'이나 '파인만'급은 하이퍼스케일러급 환경을 염두하는데 이를 소화할 엔터프라이즈 환경은 많지 않다"며 "2028년에는 많은 기업들이 새롭게 구축하는 데이터센터가 현재의 하이퍼스케일러 데이터센터 환경 정도를 갖출 것이다. 이러한 변화를 고려해야 향후 시장 대응이 가능하다"고 말했다.

권용만 기자

yongman.kwon@chosunbiz.com