엔비디아 AI칩 ‘학습 → 추론’ 진화… 핵심부품 삼성이 공급

[삼성-엔비디아 파운드리 동맹]
젠슨 황, 최신 AI가속기 공개하며… “삼성이 칩 제작, 올 3분기쯤 출하”
메모리 넘어 파운드리 협력 확대
‘추론형 AI칩’ 빅테크 경쟁 뜨거워

젠슨 황 “생큐 삼성”… 엔비디아 차세대 AI칩, 삼성이 만든다 젠슨 황 엔비디아 최고경영자(CEO)가 16일(현지 시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 연례 개발자 회의 ‘GTC 2026’에서 최신 인공지능(AI) 가속기 ‘베라 루빈’을 손에 들고 있다. 베라 루빈에는 삼성전자와 SK하이닉스의 6세대 고대역폭메모리(HBM) ‘HBM4’가 들어간다. 이날 삼성전자는 세계 최초로 7세대 HBM4E(왼쪽 위 작은 사진)를 공개하며 루빈 이후 세대까지 공략하는 메모리 초격차를 선언했다. 또 삼성이 엔비디아의 추론형 AI 칩 제조를 맡기로 해 황 CEO가 “삼성에 감사하다”고 언급했다. 새너제이=AP 뉴시스·삼성전자 제공

“삼성에 감사를 전하고 싶습니다.”

16일(현지 시간) 미국 캘리포니아 새너제이 SAP센터에서 열린 엔비디아의 연례 개발자 회의 ‘GTC 2026’ 현장. 기조연설에 나선 젠슨 황 엔비디아 최고경영자(CEO)는 엔비디아의 최신 인공지능(AI) 가속기 ‘베라 루빈’의 성능을 공개하는 자리에서 이례적으로 삼성전자에 대한 감사의 뜻을 밝혔다.

그는 “삼성이 우리를 위해 ‘그록(Groq)3’ 언어처리장치(LPU·Language Processing Unit)를 만들고 있다”며 “올 3분기(7∼9월)쯤 출하가 시작될 것”이라고 말했다. 그록3 LPU는 엔비디아가 현 AI 가속기의 핵심인 그래픽처리장치(GPU) 이후 새로운 시장을 열 것으로 기대하는 추론형 AI 칩이다. 엔비디아가 차세대 추론형 AI 칩 생산을 삼성전자에 맡겼다는 사실이 이날 처음 공개되면서, 삼성전자와 엔비디아의 ‘AI 반도체 동맹’이 기존 메모리 공급을 넘어 반도체 위탁 생산인 파운드리까지 확장됐다는 해석이 나온다.

● 삼성전자에 ‘추론형 AI’ 맡긴 엔비디아

엔비디아는 이날 신형 AI 가속기 베라 루빈의 추론 성능을 끌어올리기 위해 지난해 12월 200억 달러(약 29조8000억 원)를 들여 우회 인수한 AI 반도체 스타트업 그록의 LPU를 베라 루빈에 탑재한다고 밝혔다.

그동안 AI는 많은 정보를 얼마나 빠르게 학습할 수 있는지가 중요해 대규모 병렬 처리에 능한 GPU가 핵심이었다. 하지만 AI가 학습 단계를 넘어, 실제 임무 수행 단계에 접어든 ‘AI 에이전트’ 시대가 되면서 적은 전력으로도 데이터를 처리할 수 있는 추론 특화형 AI 칩이 각광받고 있다. 엔비디아가 GPU에 이어 추론형 AI 칩 시장까지 장악하기 위해 내놓은 것이 이날 황 CEO가 언급한 그록3 LPU다.

그록3 LPU는 삼성전자의 파운드리 4nm(나노미터·1nm는 10억분의 1m) 공정에서 생산한다. 황상준 삼성전자 메모리개발담당 부사장은 GTC 2026 현장에서 기자들과 만나 “추론 전용 칩 그록은 평택 캠퍼스에서 생산하는 중”이라며 “이미 예상보다 많은 주문이 들어왔다”고 전했다.

추론형 AI 칩 시장은 이미 빅테크들의 미래 선점을 위한 ‘각축장’이 됐다. 메타는 추론에 특화된 자체 AI 칩 ‘MTIA’ 시리즈를 내놨다. 마이크로소프트와 아마존도 각각 추론형 ‘마이아 200’과 ‘인퍼런시아’를 내놓고 고도화하는 중이다. 이런 상황에서 엔비디아가 삼성전자와 손을 잡고 추론형 AI 시장 장악에 나선 것이다.

젠슨 황 “피지컬AI 이미 도래” 젠슨 황 엔비디아 최고경영자(CEO)가 16일(현지 시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아의 연례 개발자 회의 ‘GTC 2026’ 기조연설에서 “피지컬 인공지능(AI)이 이미 도래했다”며 “이제 모든 제조기업은 로보틱스 기업이 될 것”이라고 밝혔다. 새너제이=AP 뉴시스

황 CEO는 이날 기조연설에서도 추론형 AI의 중요성을 여러 차례 강조했다. 그는 “AI 에이전트가 등장하면서 필요한 추론의 양이 챗GPT가 처음 등장했을 때의 1만 배로 증가했다”며 “추론의 변곡점이 도래했다”고 말했다. 엔비디아는 차세대 AI 가속기인 베라 루빈에 그록3 LPU를 탑재한 뒤 대규모 연산은 GPU에, 신속한 답변은 그록3 LPU에 맡기는 방식으로 운영할 예정이다. 엔비디아는 GPU와 LPU를 결합하면 전력 대비 성능 효율을 최대 35배로 높일 수 있다고 보고 있다.

● ‘가자 삼성’, ‘젠슨♡SK하이닉스’

황 CEO는 기조연설 뒤에도 한국 기업들에 큰 관심을 보였다. 황 CEO는 삼성전자 GTC 2026 전시장을 찾아 “삼성이 세계 최고”, “가자(GO) 삼성” 등의 말을 남겼다. SK하이닉스 전시장을 찾은 자리에서는 최태원 SK 회장과 이야기를 나누며 “여러분은 완벽하다”고 말했다. 그는 베라 루빈 시제품에 ‘젠슨♡SK하이닉스’라고 사인하기도 했다. 황 CEO는 이날 내년 엔비디아 AI칩 매출 목표를 1조 달러(약 1490조 원)로 제시했는데, 이를 위해 삼성-SK와의 협력이 필요하다는 점을 강조한 것으로 풀이된다.

한편 삼성전자는 이번 행사에서 차세대 고대역폭메모리(HBM)인 HBM4E(7세대) 제품을 처음으로 선보였다. 삼성전자는 올 3분기 HBM4E 샘플을 고객사에 공급하고 4분기(10∼12월) 양산을 시작할 계획이다.

추론형 인공지능(AI) 칩

AI가 사용자의 질문에 답변할 때 필요한 ‘추론’에 특화된 칩. ‘학습용’ AI 칩인 엔비디아의 그래픽처리장치(GPU)는 AI를 똑똑하게 만들기 위해 막대한 데이터를 연산하는 데 특화돼 있지만 가격이 비싸고 에너지 소요가 많은 단점이 있다. 반면 추론형 칩은 빠른 답변과 효율에 중점을 두고 있어 가격이 상대적으로 낮다.

박종민 기자 blick@donga.com