퓨리오사AI, 차세대 AI 반도체 RNGD 첫 공개

美 '핫 칩스 2024'서 글로벌 시장 데뷔…LLM·멀티모달모델 추론 데이터센터용 가속기

[아이뉴스24 김종성 기자] 퓨리오사AI가 차세대 인공지능(AI) 반도체 RNGD를 처음 공개하고, 글로벌 시장 공략에 나선다.

퓨리오사AI의 차세대 AI 반도체 'RNGD(레니게이드)'. [사진=퓨리오사AI]

퓨리오사AI는 26일(현지시간) 미국 캘리포니아주 스탠포드대학교에서 열리는 반도체 업계 학술행사 '핫 칩스(Hot Chips) 2024 컨퍼런스'에서 2세대 AI 반도체 RNGD(레니게이드)를 처음으로 공개했다고 밝혔다.

퓨리오사의 2세대 AI 반도체 RNGD는 거대언어모델(LLM)과 멀티모달모델의 효율적인 추론을 위해 설계된 데이터센터용 가속기다. 국내 팹리스가 핫 칩스 행사에서 신제품 발표자로 선정된 것은 최초다.

퓨리오사AI는 2017년 삼성전자, AMD, 퀄컴(Qualcomm) 출신인 세 명의 공동 창업자에 의해 설립된 이후, 지속적인 기술 혁신과 제품 양산에 집중해 왔다. 그 결과 TSMC로부터 첫 RNGD 샘플을 올 5월에 받은 후 빠른 속도로 보드에 칩을 실장하는 브링업(bring-up)을 완료함으로써, 1세대 제품 개발부터 양산까지 과정에서 입증했던 퓨리오사의 역량이 더욱 강화됐음을 보여줬다. 또 소프트웨어(SW) 역량도 2021년 당시 출시된 1세대 칩 첫 샘플을 받은 지 3주 만에 브링업을 완료하고 글로벌 AI 반도체 벤치마크 'MLPerf' 결과를 제출한 바 있으며, 이후 컴파일러 개선만을 통해 성능을 113% 향상시키기도 했다.

초기 테스트 결과, RNGD는 GPT-J 및 Llama 3.1과 같은 주요 벤치마크과 LLM에서 경쟁력 있는 성능을 보였으며, 단일 PCIe 카드 기준으로 약 100억 개의 파라미터를 가진 모델에서 초당 2000~3000개의 토큰을 처리할 수 있는 성능을 보여 주고 있다.

백준호 퓨리오사AI 대표는 "이번 핫 칩스에서 RNGD를 글로벌 시장에 공개하고 빠른 초기 브링업 결과를 발표할 수 있었던 것은 회사의 기술 개발이 하나의 결실을 맺은 것"이라며 "RNGD는 업계의 실질적인 추론 니즈를 충족시킬 수 있는 지속 가능하고 현실적인 AI 컴퓨팅 솔루션"이라고 강조했다. 이어 "우리 제품이 LLM을 효율적으로 연산할 수 있다는 것을 증명하였다는 것은, 회사가 다음 성장 단계에 접어들었다는 것을 의미한다"며 "팀의 헌신과 지속적인 노력에 대해 매우 자랑스럽고 감사하다"고 말했다.

백 대표는 핫 칩스에서 '퓨리오사 RNGD: 지속 가능한 AI 컴퓨팅을 위한 텐서 축약 프로세서(Tensor Contraction Processor)'라는 주제로 제품을 소개하고, 초기 벤치마크를 공개하며, Llama 3.1 70B의 라이브 데모를 선보였다.

슈퍼마이크로(Supermicro)의 기술 및 AI 담당 수석 부사장이자 EMEA 지역 사장 겸 매니징 디렉터인 빅 말얄라(Vik Malyala)는 "퓨리오사 RNGD AI 추론 솔루션은 슈퍼마이크로와 함께 친환경 컴퓨팅의 도입을 촉진할 것"이라며 "퓨리오사의 기술과 제품을 통해 슈퍼마이크로 시스템은 전력 소비를 줄이면서도 뛰어난 추론 성능을 제공할 것으로 본다"고 평가했다.

아디티아 가이나(Aditya Raina) GUC 최고마케팅책임자(CMO)는 "퓨리오사AI와의 협력으로 성능과 전력 효율성 모두 뛰어난 RNGD를 시장에 선보이게 됐다"며 "AI 반도체 개발에는 알고리즘, 소프트웨어, 하드웨어에 대한 깊은 이해가 필수적인데, 퓨리오사AI는 설계에서부터 양산 샘플 출시까지 탁월한 역량을 보여주며, 업계에서 가장 효율적인 AI 추론 칩을 출시하게 됐다"고 말했다.

/김종성 기자(stare@inews24.com)