HBM만으론 부족하다…SK하이닉스 HBF·AI낸드로 '추론 메모리' 새판

[반도체레이다]

FMS 2026서 HBF 첫 표준 규격·375단 4D 낸드 공개…웨스턴디지털 협력 결실

UCIe 기반 대용량 HBF⋅CXL 계층형 아키텍처…AI 추론 병목 돌파

[디지털데일리 배태용기자] 인공지능(AI)가 초거대 AI 모델의 학습 단계를 넘어 실질적인 데이터 처리와 서비스를 제공하는 추론 시대로 전환되면서 메모리 반도체 지형도가 다시 한번 재편되고 있다. 고대역폭메모리(HBM) 중심의 단일 주도권 다툼을 넘어 대용량 낸드플래시와 메모리 확장 기술을 유기적으로 결합해 시스템 전체의 데이터 병목 현상을 해소하려는 새로운 아키텍처 경쟁이 본격화되는 양상이다.

◆ HBM 넘어서는 'HBF' 최초 공개…웨스턴디지털과 추론 생태계 구축

13일 관련 업계에 따르면 SK하이닉스는 최근 미국 산타클라라에서 열린 글로벌 메모리 학술 행사 'FMS(Future of Memory and Storage) 2026'에서 웨스턴디지털(샌디스크)과 함께 개발한 고대역폭플래시(HBF)의 첫 표준 규격을 전격 공개했다. 지난해 협력 발표에 이어 올해 초 컨소시엄을 구성한 지 약 6개월 만에 구체적인 기술 사양을 개방형 데이터센터 기술 협력체(OCP)에 제출하는 결실을 거둔 셈이다.

HBF는 HBM과 Enterprise SSD(eSSD) 사이에 위치하는 차세대 메모리 계층으로 D램과 비교해 용량 확장이 용이한 낸드를 초고속으로 연결하는 방식이다. AI 모델과 에이전트가 다루는 맥락 정보와 문맥 데이터(Context Window)가 급증하는 추론 환경에서는 D램만으로 대용량 메모리 수요를 감당하기 어렵다는 한계가 명확하다. 이번에 발표된 HBF 규격은 낸드 다이를 8단과 16단으로 수직 적층해 최대 512GB의 대용량 구현을 목표로 설정했다.

대역폭 역시 세 등급으로 나누어 초당 최대 3TB/s에 달하는 고속 전송 속도를 구현하도록 설계됐다. 특히 프로세서와의 연결 표준으로 칩렛 인터페이스인 UCIe(Universal Chiplet Interconnect Express)를 채택해 GPU 및 CPU 등 다양한 연산 장치 인근에 HBF를 유연하게 배치할 수 있는 기반을 다졌다. AI 가속기가 고속 추론 작업을 수행할 때 발생하는 메모리 용량의 병목을 HBF가 받쳐주는 구도를 형성하는 것이다.

◆ 375단 4D 낸드, QLC eSSD 등판…AI-낸드 주도권 다툼 재점화

추론 워크로드 확대로 고용량 스토리지 수요가 폭발하면서 낸드 자체의 초고층 적층 및 효율성 경쟁도 가속화되는 모습이다. SK하이닉스는 FMS 2026 현장에서 세계 최고층 수준인 10세대 375단 4D 낸드를 최초로 공개하고 고성능 AI 낸드 시장 선점에 나섰다.

375단 4D 낸드는 웨이퍼 본딩 기술과 극초단 레이저 공정을 적용해 셀 집적도를 끌어올린 차세대 제품이다. 이전 세대 제품과 비교해 전력당 성능을 최대 2.5배 수준으로 높여 전력 소비량 절감이 최우선 과제로 떠오른 AI 데이터센터 환경에 최적화됐다. SK하이닉스는 375단 낸드를 적용한 고성능 및 고용량 eSSD 제품을 내년 상반기부터 본격 양산한다는 방침이다.

동시에 쿼드레벨셀(QLC) 기반의 초고용량 eSSD 라인업도 한층 강화한다. 대규모 언어모델(LLM)과 검색 증강 생성(RAG) 작업을 수행하는 글로벌 주요 클라우드 서비스 제공업체(CSP) 고객을 대상으로 고용량 QLC eSSD 샘플을 공급하며 실증 작업에 들어갔다. 고성능 D램과 초고용량 QLC 낸드가 결합된 스토리지 솔루션이 데이터센터의 운영 비용을 절감하는 핵심 카드라는 분석이다.

◆ CXL에 HBF 수놓는 계층형 구조…차세대 AI 메모리 패권 선점

SK하이닉스는 HBM과 HBF 및 낸드 제품군에 Compute Express Link(CXL) 기술을 결합한 통합 계층형 메모리 아키텍처 구축을 다음 성장 동력으로 제시하고 있다. GPU 가장 가까운 곳에는 초고속 HBM을 배치하고 그 아래에 CXL 기반 대용량 D램 풀과 HBF 및 high-end eSSD를 단계별로 계층화하는 구조다.

이 같은 계층형 구조는 데이터의 접근 빈도와 중요도에 따라 최적의 메모리 매체를 가동함으로써 전체 AI 시스템의 처리 효율을 극대화한다. 장문맥 LLM 기반의 AI 에이전트 서비스가 대중화될수록 단일 고속 메모리만 사용하는 기존 방식보다 비용 대비 성능 효율성이 한층 높아질 것이라는 시각도 존재한다.

업계 한 관계자는 "AI 시장의 중심축이 학습에서 추론으로 이동함에 따라 개별 반도체의 단품 속도 경쟁보다는 전체 메모리 계층 구조를 얼마나 효율적으로 설계하고 최적화하느냐가 승패를 가를 것"이라며 "HBM 시장에서 확보한 주도권을 차세대 HBF와 CXL 및 AI-낸드 생태계로 확장하려는 SK하이닉스의 전략이 추론 메모리 시장의 주도권을 결정짓는 중요한 분수령이 될 것이라는 시각도 있다"라고 진단했다.