삼성·SK 이어 마이크론도 ‘넥스트 HBM’ 참전

GPU 근접 낸드 기술 검토
미래 메모리 경쟁 ‘조합·배치’

마이크론이 인공지능(AI) 메모리 시장에서 고대역폭메모리(HBM)를 보완할 새로운 메모리 기술을 검토하고 있는 것으로 나타났다. 최근 삼성전자와 SK하이닉스가 차세대 메모리 구조와 계층화 기술을 잇달아 공개한 가운데, 마이크론까지 관련 기술을 살펴보면서 AI 메모리 경쟁의 무게 중심이 'HBM 이후'로 가는 모습이다.

3일 업계에 따르면 마이크론은 그래픽처리장치(GPU) 가까이에 고내구성 낸드플래시를 배치하는 '근접 GPU 낸드(Near-GPU NAND)' 기술을 검토하고 있다. 기존 낸드플래시처럼 GPU에서 멀리 떨어진 저장장치 영역에 두는 대신 GPU 패키지나 인쇄회로기판(PCB) 인근에 배치해 HBM과 일반 저장장치 사이의 새로운 메모리 계층으로 활용하는 방식이다.

외신 등에 따르면 마이크론은 기존 트리플레벨셀(TLC)·쿼드레벨셀(QLC) 낸드보다 저장밀도를 낮추는 대신 입출력(I/O) 속도와 대역폭을 높이고 내구성을 확보하는 방안을 살펴보고 있는 것으로 전해졌다. GPU 주변에 수백GB 규모의 낸드 저장공간을 마련해 대규모 거대언어모델(LLM) 추론에 필요한 데이터를 기존 저장장치보다 가까운 곳에서 처리하는 구상이다.

근접 GPU 낸드는 HBM을 대체하기보다 HBM이 담당해야 하는 데이터 규모를 줄이는 역할에 가깝다. 모든 데이터를 가장 빠른 HBM에 저장하는 대신 데이터의 중요도와 사용 빈도에 따라 서로 다른 메모리에 나눠 저장하면 제한적인 HBM 용량을 보완하면서 AI 시스템의 비용과 효율을 높일 수 있기 때문이다.

앞서 삼성전자는 지난달 열린 메모리 반도체 행사 'FMS 2026'에서 AI 가속기 위에 HBM을 직접 쌓는 'zHBM'을 공개했다. AI 가속기(xPU)와 메모리 사이의 거리를 줄이는 3차원(3D) 구조를 적용해 데이터 이동에 필요한 시간과 전력 소모를 낮추는 기술이다.

삼성전자에 따르면 zHBM이 적용된 차세대 인터페이스 시스템은 HBM5 대비 성능을 최대 8배, 전력 대비 성능을 최대 3배 높일 수 있다. 삼성전자는 이와 함께 기존 메모리와 스토리지 사이의 새로운 계층을 겨냥한 차세대 낸드 솔루션 'zNAND-O'도 공개했다.

SK하이닉스는 메모리를 여러 단계로 나누는 '계층형 메모리' 전략을 제시했다. 샌디스크와 협력해 고대역폭 플래시(HBF) 표준을 공개하고 HBM과 솔리드스테이트드라이브(SSD) 사이에 대용량 메모리 계층을 추가하는 방식이다. SK하이닉스와 샌디스크가 공개한 HBF 표준은 최대 512GB 용량과 최대 3TB/s 대역폭을 지원한다.

HBF는 낸드플래시의 높은 용량과 비휘발성 특성을 활용하면서 HBM에 가까운 고속 데이터 전송을 구현해 GPU의 메모리 공간을 확장하는 개념이다. HBM에는 즉각적인 처리가 필요한 데이터를, HBF에는 상대적으로 대용량이 필요한 데이터를 배치해 HBM 용량을 무작정 늘리지 않고도 AI가 처리할 수 있는 데이터 규모를 키울 수 있다. SK하이닉스 역시 HBF를 HBM과 SSD 사이의 새로운 메모리 계층으로 규정하고 있다.

이 같은 움직임은 AI의 발전으로 메모리가 처리해야 할 데이터가 급증하고 있기 때문이다. 스스로 작업을 계획하고 수행하는 에이전틱 인공지능이 확산되면서 단순한 질문과 답변을 넘어 과거 데이터와 외부 정보를 실시간으로 불러오고 장시간 축적된 정보를 활용하는 작업이 늘고 있다. 하나의 메모리만으로 속도와 용량을 모두 충족하기 어려워지면서 서로 다른 특성을 가진 메모리를 연결하는 구조가 중요해지고 있다.

업계에서는 앞으로 AI 메모리 경쟁이 HBM의 용량과 대역폭을 높이는 데 그치지 않고 여러 종류의 메모리를 어떻게 조합하고 어디에 배치할지를 결정하는 경쟁으로 확대될 것으로 보고 있다.

HBM이 연산에 필요한 데이터를 빠르게 공급하는 역할을 맡는다면 HBF와 근접 GPU 낸드 등은 대용량 데이터를 보다 가까운 곳에 두는 방식으로 HBM의 한계를 보완하는 구조다.

김정호 카이스트 전기 및 전자공학부 교수는 "HBM은 AI의 속도를, HBF는 필요한 메모리 용량을 결정하는 역할을 하게 될 것"이라며 "앞으로 AI 시대에는 지금보다 100배에서 1000배 많은 메모리가 필요해질 것"이라고 전망했다.

이상현 기자 ishsy@dt.co.kr

마이크론이 HBM의 용량 한계를 보완하기 위해 GPU 가까이에 고내구성 낸드를 배치하는 ‘근접 GPU 낸드’ 기술을 검토하고 있다. 사진은 SK하이닉스가 샌디스크와 함께 공개한 차세대 스토리지 기술 HBF의 첫 표준 규격 이미지