삼성 손 잡더니 '판 뒤집나'…엔비디아 '숨겨둔 카드' 그록3[칩톡]

S램 활용해 속도 높이고 '추론 시대' 대비
삼성 파운드리서 제조

엔비디아가 공개한 '그록3'(Groq 3)는 인공지능(AI) 반도체 경쟁의 다음 단계를 겨냥하기 위한 '뉴페이스'다. 일각에서는 엔비디아의 회심의 한 수라는 평가도 나온다.

젠슨 황 엔비디아 최고경영자(CEO)는 16일(현지시간) 미국 산호에서 열린 개발자 행사 'GTC' 기조연설에서 차세대 AI 플랫폼 '루빈(Rubin)'에 그록3 LPU'를 추가한다고 발표했다. 그록3는 대규모 AI 모델이 질문에 대한 답을 생성하는 추론(inference) 속도를 높이기 위해 설계된 칩이다.

AI 산업은 모델 학습 중심에서 사용자의 질문이나 요구에 답을 하기 위한 추론으로 급격히 변화하고 있다. 오픈클로(Openclaw)와 같은 에이전틱 AI의 급부상은 추론의 중요성을 더욱 키우고 있다.

엔비디아(Nvidia) 최고경영자(CEO) 젠슨 황(Jensen Huang)이 2026년 3월 16일(현지시간) 미국 캘리포니아주 새너제이 SAP센터에서 열린 연례 개발자 콘퍼런스 ‘GTC 2026’에서 기조연설을 하고 있다. AFP연합뉴스

이번 칩은 엔비디아가 AI 반도체 스타트업 그록의 기술을 확보한 뒤 3개월에 만에 선보인 결과물이라는 점에서 주목된다. 엔비디아는 지난해 12월 약 200억달러를 투자해 AI 추론에 특화해 성장해 온 그록의 핵심 자산과 기술을 확보하고 관련 엔지니어들을 영입했다.

그만큼 엔비디아도 GPU 중심 AI 인프라에서 벗어나려는 시도를 원천적으로 차단하려는 시도에 대한 대응을 서두르고 있다는 뜻이다. GPU는 대규모 학습에는 강하지만, 빠른 응답이 필요한 추론 작업에서는 병목이 발생할 수 있다.

그록3는 이런 문제를 해결하기 위해 기존 AI 칩과 다른 접근을 택했다. 대부분 GPU, NPU가 고대역폭 메모리(HBM)를 사용하는 것과 달리 S램을 탑재한 구조를 채택했다. S램은 속도가 빠르지만 비싸다. 이 때문에 CPU와 GPU 캐시에 사용되는 초고속 메모리의 역할을 하게 된다. 메모리 용량은 상대적으로 적지만 속도가 빠르기 때문에 추론 단계에서 높은 효율을 낼 수 있다.

AI 반도체 경쟁 구도에서도 의미가 있다. 최근 AI 연산 시장에서는 저가 추론 전용칩 경쟁이 빠르게 확산하고 있다. 웨이퍼 전체를 칩으로 활용하는 세레브라스(Cerebras)는 오픈AI, 아마존 AWS와 협력을 강화했다. 한국 정부도 엔비디아의 GPU 확보와 별도로 국산 NPU 지원을 천명하고 있다.

삼성전자와의 연결고리도 주목된다. 황 CEO는 그록3 칩이 삼성 파운드리에서 생산된다고 밝혔다. 삼성은 S램의 강점을 파운드리까지 이어가며 그록3 생산을 맡게 됐다. 기존 학습용 GPU에 사용되던 고대역폭 메모리(HBM)는 엔비디아 GPU와의 결합을 위해 대만 TSMC 패키징 공정이 필요했다.

백종민 테크 스페셜리스트 cinqange@asiae.co.kr