AI 메모리 ‘다크호스’…왜 HBF인가

하이닉스도 샌디스크도 뛰어들었다

인공지능(AI) 확산으로 고대역폭메모리(HBM) 시장이 유례없는 호황을 맞은 가운데, 차세대 AI 메모리 시장 새 주인공으로 고대역폭 낸드플래시 메모리(HBF·High Bandwidth Flash Memory)가 주목받는다. HBM만으로는 그래픽처리장치(GPU) 연산 속도를 따라가지 못한다는 평가가 나오자 새로 등장한 다크호스다. SK하이닉스, 샌디스크 등 반도체 업체들이 줄줄이 HBF 개발에 뛰어들어 ‘포스트 HBM’ 경쟁이 본격화됐다는 평가다.

지난 1월 미국 라스베이거스에서 열린 ‘CES 2025’에서 SK하이닉스가 공개한 HBM3E 모형. SK하이닉스는 HBM 용량 증가 한계를 보완하기 위해 HBF 개발을 준비 중이다. (SK하이닉스 제공)

HBM만으론 GPU 연산 못 따라가

용량 10배 늘린 HBF 주목

HBF가 등장한 배경부터 살펴보자. 낸드플래시는 전원이 꺼져도 데이터를 유지하는 저장용 반도체다. 지금까지는 하나의 낸드 메모리 칩 안에서 셀(저장공간)을 최대한 많이 쌓는 방식으로 발전해왔다. 동일한 면적에 셀을 집어 넣어 저장용량을 키웠다. 그러다 AI 시장이 추론으로 영역을 넓히며 더 많은 데이터를 저장하는 낸드 수요가 커졌다. 최근 HBF가 주목받는 이유다.

데이터 처리 속도가 빠르고 높은 전력 효율을 갖춘 메모리가 필요해 D램을 수직으로 쌓아올리는 HBM이 등장한 것처럼, 낸드도 같은 방식을 이용해 위로 쌓아올리는 구조다. HBF는 HBM에 쓰이는 실리콘관통전극(TSV) 기반 적층을 낸드에 적용해 대역폭을 높이고 용량을 키우는 개념이다. 용량이 큰 낸드 플래시 메모리를 HBM처럼 3차원으로 쌓아 구멍을 뚫고, 고속 엘리베이터 같은 연결 통로를 여러 개 설치해 데이터를 빠르게 전송하도록 고안했다.

덕분에 HBF는 HBM보다 용량이 큰 데다 데이터를 신속하게 가져올 수 있다. HBM보다는 속도가 느리지만 기존 HDD(하드디스크드라이브), SSD(솔리드스테이트드라이브) 등 데이터 저장장치보다는 훨씬 빠르다. 메모리 속도도 중요하지만 용량 부족 문제가 커지는 만큼, HBM으로 해결할 수 없는 용량 문제를 낸드로 해결하기 위한 개념이다.

특히 메모리 성능 한계 탓에 AI 가속기 혁신이 지체되는 ‘메모리 월’의 돌파구로 주목을 끈다. 최신 HBM3E 12단 한 개 용량은 36GB에 불과하다. 고층으로 만들기 어려운 구조이기 때문이다. 100GB가 되려면 20층 이상 쌓아야 하는데, 당장은 이런 한계를 극복하기 어렵다.

반면 낸드의 경우 이미 최대 321층 쌓은 제품이 상용화돼 용량 확대에 유리하다. HBF는 데이터 저장공간을 계층화해 저장장치까지 갈 필요 없이 빠르게 정보에 접근할 수 있는 구조다. HBM이 초고속 연산을 담당한다면 HBF는 대규모 데이터 저장과 효율적 전송을 맡는 ‘보조축’ 역할을 할 수 있다는 의미다.

HBF는 구체적으로 어떤 역할을 할까. GPU는 병렬 처리 연산에 특화된 프로세서로 AI 학습이나 추론에 적합하다. HBM은 GPU 연산에 필요한 데이터와 연산 결과를 빠르게 주고받으며 AI 성능을 높인다. 기존 메모리의 한계로 HBM이 등장했지만 지금도 AI 작업을 수행할 때 GPU가 계산하는 시간 점유율은 약 20~30%에 그친다. 메모리에 ‘병목 현상’이 있다는 의미다.

HBF는 HBM와 역할은 비슷하지만 조금 다르다. HBM이 처리할 수 없는 대용량 데이터는 네트워크로 연결된 데이터센터에서 전송된다. HBF의 역할은 데이터센터 일부를 가져와 GPU 옆에 붙여주는 것이다. GPU는 HBM과, HBM은 HBF와 데이터를 주고받는다. HBM이 자주 쓰는 정보를 두는 ‘책장’이라면, HBF는 보다 거대한 ‘도서관’에 비유되는 이유다. HBF 속도는 HBM의 80~90% 수준이지만, 용량은 8~16배 높아 대규모 AI 학습·추론 서버에서 HBM 병목을 완화할 ‘중간층 메모리(Mid-Tier Memory)’로 평가된다. 게다가 HBF 전력 소모는 HBM보다 40%가량 낮아 데이터 처리량을 늘리며 전력 소모량을 줄일 수 있는 것도 장점이다.

반도체 업계에서는 AI가 더 발전해 인간의 모든 지적 업무를 수행하는 범용 인공지능(AGI·Artificial General Intelligence)으로 성장할 때 HBF가 꼭 필요하다는 분석도 나온다. 의료, 법률, 교육 등 전문 분야별 AI를 개발해 이들이 연합해서 결과를 생성하는데, HBF는 전문 분야별 변수와 각각의 집중도를 학습하고 필요할 때 쓰일 수 있다. 한용희 그로쓰리서치 애널리스트는 “HBF는 D램-HBM-낸드를 통합하는 하이브리드 메모리 중심축으로 자리 잡았다”며 “AI 추론 시대가 도래해 AI 산업 성장을 이끌 핵심 기술로 주목을 끈다”고 강조했다.

국내 반도체 기업들도 HBF 개발에 힘쓰는 중이다. SK하이닉스는 최근 미국 캘리포니아주 새너제이에서 열린 ‘2025 OCP 글로벌 서밋’ 행사에서 ‘AIN(AI-낸드) 패밀리’라는 차세대 낸드 전략을 발표했다. 이 중 핵심이 HBF다.

곽노정 SK하이닉스 사장은 “HBM 용량 증가 한계를 보완할 방안으로 낸드를 HBM과 같이 활용할 수 있도록 제품을 개발 중”이라고 밝혔다.

낸드 밀리는 SK하닉 HBF 승부수

10만번 ‘쓰기 수명’ 극복은 과제

SK하이닉스는 지난 8월 샌디스크와 HBF 표준화 양해각서(MOU)를 체결하기도 했다. 시장조사 업체 트렌드포스에 따르면, 올 2분기 기준 글로벌 낸드 시장점유율은 삼성전자 32.9%, SK하이닉스(솔리다임 포함) 21.1%, 키옥시아 13.5%, 마이크론 13.3%, 샌디스크 12.2%로 집계됐다. 글로벌 낸드 2, 5위 업체가 차세대 AI 메모리 동맹을 맺은 셈이다. 두 회사는 내년 하반기 HBF 샘플 칩 출시, 2027년 초 AI 장비 적용을 목표로 잡았다. 미국 낸드 업체 샌디스크는 HBF 시장을 주목하며 “AI 추론 시장에서 큰 기회를 보고 있다”고 밝혔다.

반도체 업계 관계자는 “SK하이닉스가 HBM에서는 세계 최고 수준이지만, 낸드 부문에서는 삼성전자에 밀린다”며 “SK하이닉스가 샌디스크와 손잡은 건 부족한 낸드 역량을 보완하기 위한 전략적 조치”라고 분석했다.

삼성전자는 아직 구체적인 차세대 낸드 방향성을 제시하지 않았지만, HBM 같은 방식으로 낸드를 쌓아올리거나 기존 낸드 단점을 보완해 빠른 속도를 구현하는 고성능 낸드플래시 개발을 고민 중이다. 송재혁 삼성전자 최고기술책임자(CTO)는 최근 열린 국내 최대 규모 반도체 전시회 ‘반도체대전(SEDEX) 2025’에서 “D램, 낸드, 로직 반도체 모두 공통적으로 적층 기술을 통해 한계를 돌파하는 국면”이라며 적층 낸드에 대한 방향성을 제시하기도 했다. 박상욱 신영증권 애널리스트는 “HBF가 상용화되면 낸드 산업에도 구조적 변화가 일어나 반도체 업황 개선, 수익성 제고로 이어질 가능성이 높다”고 분석했다.

물론 상용화되기까지 과제도 적잖다.

반도체 업계에서는 낸드가 열에 취약하다는 점을 주목한다. D램의 경우 최대 100도 이상까지 견디지만, 낸드는 정상 동작 범위가 이보다 낮은 85도 이하다. 고온에 노출되면 성능이 저하될 수 있는데, AI 서버가 내뿜는 열기를 어떻게 극복할지가 과제다.

낸드 수명 주기도 무시 못할 변수다. 낸드는 강한 전압을 가해 전자가 넘기 어려운 장벽을 뚫도록 유도한 뒤 ‘플로팅 게이트’라는 공간에 가둔 다음, 전자의 유로 정보를 정의한다. 현재 낸드 기술은 전자를 가둬 정보를 기록하는 ‘쓰기’ 과정이 반복되면, 소재 결함이 나타나 오류가 생긴다. 낸드는 데이터를 쓰고 지울 수 있는 횟수 총합이 보통 10만회 이하라, 횟수 제한이 없는 D램과 대비된다. 최근 등장한 고용량 낸드 제품은 수명이 더 짧아 활용 방안을 두고 반도체 업계의 고민이 크다.

[김경민 기자 kim.kyungmin@mk.co.kr]

[본 기사는 매경이코노미 제2336호 (2025.11.26~12.02일자) 기사입니다]

[Copyright (c) 매경AX. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지]