"맞춤형 HBM 시장, 삼성 미래 위한 무대로 만들 것" [김인엽의 퓨처 디스패치]

엔비디아 본진서 맞붙은 삼성·하이닉스
HBM 대결 핵심은 전력 효율·맞춤 전략
삼성은 7년만에 묻힌 Z낸드 다시 꺼내
고성능이지만 비싸 시장성 없었지만
대규모 AI 등장으로 병목현상 해결사로

오화석 삼성전자 메모리사업부 부사장이 5일(현지시간) 미국 캘리포니아주 산타클라라 컨벤션센터에서 열린 퓨처오브메모리앤스토리지 컨퍼런스에서 기조 연설을 하고 있다. 김인엽 특파원

기하급수적으로 커지는 인공지능(AI) 서버 시장의 핵심 부품, '고대역폭메모리(HBM)'의 미래를 두고 삼성전자와 SK하이닉스가 5일(현지시간) 맞붙었다. 엔비디아 본사가 있는 미국 캘리포니아주 산타클라라시에서다. 

키노트 연사로 나선 임대현 삼성전자 메모리사업부 마스터는 "맞춤형 HBM 시장을 삼성의 미래를 위한 무대로 만들겠다"고 밝혔다. 최준용 SK하이닉스 부사장은 "각 고객을 위해 설계한 특수기능 메모리를 통해 최대 성능, 전력 효율성, 차별화된 가치를 제공하겠다"고 했다.

 HBM 트렌드는 '전력효율' '맞춤형'

이날 양사 임원들은 산타클라라 컨벤션센터에서 열린 세계 최대 규모 반도체 전시회인 퓨처오브메모리스토리지 행사에서 연이어 연단에 올랐다. 양사는 모두 '에너지 효율성'을 강조했다. 

임 마스터는 "생성형 AI의 등장으로 대역폭의 급격한 증가가 필요해졌고 더 큰 병렬 처리는 전력 소비증가와 심각한 열 문제를 초래했다"고 설명했다. 그러면서 "D램은 공정 스케일링을 통해 에너지 효율성을 지속적으로 개선해왔지만 HBM3와 HMB3E에서는 성능 개선이 미미해지기 시작했다"고 지적했다.

임 마스터는 "이를 극복하기 위해 HBM4에는 최첨단 논리 공정 노드를 채택했으며 이는 에너지효율성을 상당히 개선시켰다"고 강조했다.

다만 더 큰 용량과 속도, 에너지 효율성이 꼭 정답은 아니라는 게 임 마스터의 생각이다. 그는 "고객들은 자신의 워크로드에 최적화된 전력 효율적인 솔루션을 찾고 있다"라며 "이러한 새로운 요구사항을 단일 표준 제품에 모두 반영하는 것은 매우 어렵다"고 했다.

SK하이닉스의 최 부사장 역시 "SK하이닉스가 AI용 메모리를 재정의하는 방법은 단순히 더 빠르고 큰 메모리를 만드는 게 아닌 스마트하고 효율적이며 전체 시스템 스택에 더 통합된 메모리를 구축하는 것"이라고 강조했다. 그는 늘어나는 데이터센터 전력 수요를 언급하며 "과거 (AI 서버) 전체 전력의 12%를 차지하던 HBM이 현재는 18%를 차지하고 있다"라며 "HBM 전력을 10% 줄이면 전체 전력 소비가 2% 줄어든다"고 설명했다. 그러면서 "최근 SK하이닉스의 HBM 제품은 전력 효율성을 최대 40% 개선했다"고 강조했다. SK하이닉스가 올해 상반기까지 엔비디아 GTC 2025 등에서 언급한 HBM4 전력 효율 개선폭은 30%다.

또 최 부사장은 "이러한 진화는 표준화된 단일 접근으로는 해결할 수 없다"라며 "각 고객 경험에 맞는 맞춤형 메모리로 전환해야한다"고 덧붙였다.

 7년만에 다시 'Z낸드' 꺼내든 삼성

오화석 삼성전자 메모리사업부 부사장은 이날 차세대 낸드플래시 기술인 Z낸드를 적극 연구하고 있다고 밝혔다. 이를 통해 기존 낸드플래시 대비 처리 성능을 최대 15배 높이고 전력 소모는 5분의1로 줄이는 게 목표다. 전용 아키텍처와 센싱 기술, 저전력 설계 기술 등을 통해 이러한 혁신을 실현한다는 구상이다.

삼성전자가 Z낸드 기술을 언급한 것은 2018년 슈퍼컴퓨터(HPC)용 Z낸드인 800GB Z-SSD를 출시한 뒤 7년 만이다. 이 제품은 기존 솔리드스테이트드라이브(SDD)보다 응답 속도가 5배 이상 빠른 고성능 낸드플래시였다. 그러나 비싼 가격과 적은 용량이 발목을 잡았다. 인텔도 DRAM과 낸드의 중간 형태인 옵테인이라는 상품을 내놨지만 비슷한 이유로 철수했다.

Z낸드의 부활은 AI 모델의 부상과 맞물린다. 대규모 AI 모델들이 등장하며 데이터셋을 빠른 속도로 불러와야하는 수요가 생긴 것이다. 현재 그래픽처리장치(GPU)가 데이터를 읽으려면 중앙처리장치(CPU)→DRAM→SSD 순서를 거쳐야하는데 이 과정에서 병목현상이 발생한다. 오 부사장은 GPU가 저장장치에서 직접 데이터를 읽는 기술인 GIDS를 목표로 Z낸드 기술을 개발하고 있다고 설명했다. Z낸드에서 직접 데이터를 읽으면 지연시간을 단축시킬 수 있다는 뜻으로 풀이된다. 
 

실리콘밸리에는 부자와 천재가 많습니다. 이들이 만나면 미래가 만들어집니다. 현장에서 보고 듣고 느끼는 미래의 이야기를 '퓨처 디스패치'에서 전해드립니다. 기자 페이지를 구독해주세요.

실리콘밸리=김인엽 특파원/강해령 기자 inside@hankyung.com