삼성, 리스크 안고 차세대 D램 재설계…하이닉스와 1년 격차 확 좁혀

삼성 HBM4 엔비디아서 최고점…맹추격 비결은

삼성전자는 D램을 과감히 재설계해 D1c 기반 HBM4를 빠르게 개발하며 SK하이닉스를 추격했고, HBM을 둘러싼 메모리 3사의 AI 반도체 주도권 경쟁이 한층 격화되고 있다. [사진 = 연합뉴스]

삼성전자가 6세대 고대역폭메모리(HBM) 제품인 HBM4에서 SK하이닉스를 빠르게 추격할 수 있었던 것은 리스크를 감수하고 HBM의 베이스가 되는 D램을 재설계했기 때문이다. 이 과정에서 2023년 개발해 잘 사용해오던 D1b를 건너뛰고 다음 세대인 D1c로 넘어가는 강수를 뒀다.

삼성전자가 엔비디아의 HBM3E 퀄을 통과한 것은 올해 9월께로 추정된다. SK하이닉스가 1년 전에 양산·공급이 결정된 것을 감안하면, 1년이나 격차가 벌어져 있던 셈이다. 이 격차가 HBM4에서는 거의 비슷한 수준까지 좁혀졌다.

HBM은 D램을 여러 겹으로 쌓은 후 ‘실리콘 관통 전극(Through Silicon Via·TSV)’이라는 일종의 엘리베이터를 만들어 데이터나 전력이 이동할 수 있도록 만든 제품이다. 많은 양의 데이터를 한번에 보낼 수 있는 대역폭(Bandwidth)이 HBM의 장점이다.

이에 따라 D램을 쌓고 TSV를 연결하는 것이 중요한 기술로 꼽힌다. 하지만 이와는 별개로 개별적인 D램 성능도 중요하다. D램을 쌓아서 만드는 것이 HBM이기 때문이다.

지난 세대인 HBM3E에서 삼성전자는 D1a 공정의 D램을 HBM을 제조하는 데 사용해왔다. 경쟁사들보다 한 세대 뒤진 D램으로 HBM을 제조했던 것이다. 이에 따라 성능에서 뒤처졌을 뿐만 아니라 발열 문제 등이 발생한 것으로 알려졌다.

삼성전자는 이를 해결하기 위해 D램을 완전히 재설계하기로 했다. 2024년 말부터 D1b에 대한 재설계에 들어갔다. 2023년에 나온 제품을 1년 만에 다시 설계하는 것은 매우 이례적인 일이었다. 2024년 5월 취임한 전영현 부회장 주도하에서 나온 결정이었다.

재설계에 들어간 이후 HBM4 개발까지는 엄청난 속도로 진행됐다. 설계를 마친 D1c를 기반으로 HBM4를 만들어 10월에 엔비디아에 샘플을 공급했고, 12월에는 내부 양산 승인 PRA(Production Readiness Approval)까지 마쳤다.

SK하이닉스와 마이크론이 HBM3E에서 쓰던 1b 공정 D램을 사용한 것에 비하면 삼성전자는 엄청난 리스크를 감수한 것이다.

삼성전자는 D1c D램 개발에 크게 기여한 이병현 상무를 2년 만에 부사장으로 승진시키고 해당 팀에는 주식을 보상으로 지급하는 등 D1c D램에 큰 자신감을 보였다.

삼성전자는 D램을 과감히 재설계해 D1c 기반 HBM4를 빠르게 개발하며 SK하이닉스를 추격했고, HBM을 둘러싼 메모리 3사의 AI 반도체 주도권 경쟁이 한층 격화되고 있다. [사진 = 연합뉴스]

자체 파운드리와 첨단 패키징 능력을 갖고 있다는 것도 삼성전자의 장점이다. HBM4부터는 HBM의 두뇌 역할을 하는 로직다이(베이스 다이)가 중요해진다. 기존 D램 공정보다 훨씬 높은 수준의 다이를 만들어야 한다. SK하이닉스는 TSMC로부터 공급받은 로직다이를 사용하고 있다. 하지만 삼성전자의 경우 메모리와 파운드리 사업을 모두 하고 있기 때문에 같은 사업부 내에서 빠르게 개발과 대응이 가능하다.

삼성전자는 지난 11월 인사에서 별도 팀이었던 HBM 개발 조직을 메모리 개발 담당으로 이동시켰다. D램과 낸드플래시, 솔루션, 패키징까지 아우르는 ‘메모리 개발 담당’ 조직을 만든 것이다.

삼성전자는 현재 HBM4 개발·공급 경쟁에서 10나노미터(㎚) D1c 램과 4나노 파운드리 공정에서 만든 로직다이를 결합해 동작 속도 초당 11기가비트() 이상을 가장 먼저 달성했다고 설명하고 있다.

삼성전자가 HBM 개발에서 SK하이닉스를 빠르게 추격하면서 HBM 개발을 두고 메모리 3사의 경쟁 양상은 더욱 뜨거워지는 모습이다.

HBM을 최초로 개발한 것은 2013년 SK하이닉스였다. 당시 AMD 요구에 맞춰 게임 그래픽카드용으로 개발했다. 하지만 이는 큰 성공을 거두지 못했다. HBM의 높은 가격에 비해 소비자들이 느끼는 효용성이 크지 않았기 때문이다.

이재용 삼성전자 회장(오른쪽)과 젠슨 황 엔비디아 최고경영자(CEO)가 지난 8월 25일(현지시간) 미국 워싱턴DC 윌라드 호텔에서 열린 한미 비즈니스 라운드 테이블 리셉션에 나란히 자리하고 있다. [사진 = 연합뉴스]

HBM의 가능성을 알아본 것은 엔비디아였다. 엔비디아 그래픽처리장치(GPU) ‘지포스’를 사용해 인공지능(AI)을 학습시키는 연구자들이 늘어나자 엔비디아는 AI 학습 전용 가속기를 만들었다. 2015년 젠슨 황 최고경영자(CEO)가 오픈AI에 직접 제품을 전달한 것으로 유명한 ‘DGX’가 그것이다. 엔비디아는 초기엔 AI 가속기용 메모리로 GDDR을 사용하다가 HBM이 AI의 학습 성능을 훨씬 좋게 만든다는 것을 알고 GDDR 대신 삼성전자의 HBM을 도입했다. 2017년 삼성전자 HBM2는 AI 가속기에 사용된 최초의 HBM이라는 타이틀을 갖게 된다.

최초로 HBM을 개발했지만 엔비디아의 선택을 받지 못한 SK하이닉스는 절치부심해 엔비디아의 공급망에 복귀한다. 2019년 HBM2E를 최초로 개발했을 뿐만 아니라 HBM3가 들어간 A100(암페어)부터는 엔비디아의 주력 HBM 공급사로 자리 잡는다. 2022년 11월 챗GPT 등장으로 엔비디아 AI 가속기 수요가 폭발하면서 SK하이닉스는 그 수혜를 톡톡히 누리게 된다.

메모리 업계 3위인 미국 마이크론도 HBM 경쟁에서 가만히 있지만은 않았다. 마이크론은 2020년 HBM2를 개발하면서 한국 기업 추격에 나섰고, 최근 몇 년간은 한국인 인재를 스카우트해 HBM 개발 속도를 높였다. HBM3E에서는 삼성전자를 제치고 엔비디아에 두 번째로 많은 물량을 공급했다.

삼성전자는 D램을 과감히 재설계해 D1c 기반 HBM4를 빠르게 개발하며 SK하이닉스를 추격했고, HBM을 둘러싼 메모리 3사의 AI 반도체 주도권 경쟁이 한층 격화되고 있다. 사진은 삼성전자 HBM3 [사진 = 삼성전자]

HBM은 메모리 반도체 업계 판도를 변화시킨 핵심 제품으로 꼽힌다. 기존 메모리 반도체 시장이 범용으로 시장의 높은 변동성에 취약한 제품이었다면, HBM은 특정 고객의 AI 가속기와 짝을 이루는 맞춤형 반도체다. 엔비디아, 구글, 아마존 같은 빅테크 기업들에 정해진 물량·단가로 제품을 납품하기 때문에 기존 메모리 반도체 기업들이 갖고 있던 실적 불확실성이 크게 줄어들었다.

또한 HBM을 GPU와 하나로 묶는 첨단 패키징이 중요해지면서 메모리 반도체가 아닌 로직 반도체와 같은 특성을 갖게 됐다. AI 반도체에서 메모리 반도체와 로직 반도체가 하나로 통합되는 트렌드가 나오는 이유다.

HBM은 중국 반도체 기업들의 추격을 따돌릴 수 있는 제품으로도 각광받고 있다. 중국 D램과 낸드 메모리 업체들이 점차 캐파를 확장하고 국내 메모리 업체들을 추격해오는 상황에서 HBM은 기술 격차를 벌릴 수 있는 중요한 제품이다. 2024년 12월 미국 정부가 한국산 HBM의 중국 수출을 금지시킨 게 HBM의 기술적 중요성을 보여주는 단적인 예다.

현재 중국 업체들은 HBM2E 규격에 맞는 제품을 개발한 것으로 알려져 있으며, CXMT가 HBM3 개발에 박차를 가하고 있는 것으로 전해졌다. 중국이 엔비디아 GPU를 대체할 수 있는 AI 가속기를 내놓더라도 그에 상응하는 HBM을 개발해야 하기 때문에 HBM도 중국 기업들이 반드시 국산화해야 하는 영역이다.