낸드플래시가 D램에 이어 AI 시대 핵심 메모리로 자리를 잡은데 이어 HBM(고대역폭메모리) 같은 차세대 제품 'HBF'로 도약을 시도하고 있다. '더 빠른' 저장장치에 대한 필요성은 명확하지만 상용화를 위해선 아직 기술적으로도 해결해야 할 과제들이 많다.
여기에 비용을 낮춰 실제 수요층이 움직이게 하기까진 예상보다 시간이 더 걸릴 수 있다는 전망이 나온다. 반도체업계가 어떤 제품이 HBM 뒤를 잇는 '대박' 아이템이 될 수 있을지에 촉각을 곤두 세우고 있는 상황에서 HBF가 진짜 제2의 HBM이 될 수 있을지 관심이 쏠린다.
'많이 담는 낸드'에서 '빠르게 읽는 낸드'로
AI 투자가 본격화되면서 가장 먼저 주목받은 제품은 HBM이었다. 생성형 AI 학습 수요가 급증하면서 GPU가 처리해야 할 데이터량이 폭발적으로 늘어났고, 이를 제때 공급하지 못하는 메모리 대역폭 한계가 문제로 떠올랐다.
이를 해결할 방법으로 고대역폭 D램(HBM)이 부상했고 시장 판도도 빠르게 바뀌었다. 3년 전인 2023년 40억달러(약 5조8000억원) 수준이던 글로벌 HBM 시장은 올해 120억달러(약 17조5000억원) 안팎으로 커졌고 2027년에는 300억달러(약 43조7000억원)를 넘어설 것으로 전망된다.
이제 시선은 낸드로 옮겨가고 있다. AI 관련 낸드 시장은 2024년부터 2027년까지 연평균 100%를 웃도는 성장세가 예상된다. 하이퍼스케일러들이 기업용 SSD를 선주문하고 있고 AI 서버 한 대에 탑재되는 스토리지 용량도 빠르게 늘고 있다.
다만 최근 현장에선 다른 고민이 들린다. 용량을 늘리는 것만으로는 충분하지 않다는 점이다. 생성형 AI가 학습을 넘어 추론과 서비스 단계로 확산되면서 동일 데이터를 반복적으로 읽어오는 구조가 일반화됐다. 추론용 서버는 대규모 모델과 데이터를 계속 불러와야 하는데 GPU 성능이 아무리 좋아도 스토리지 지연이 길면 응답 속도가 떨어질 수밖에 없다.
현재 최신 세대 기업용 SSD의 읽기 속도는 초당 14GB 안팎이다. 불과 몇 년 전보다 두 배 이상 빨라졌지만 GPU 내부 대역폭과 비교하면 여전히 격차가 크다.이런 간극을 좁히기 위해 업계가 HBF를 검토하기 시작했다.
HBF는 낸드 다이를 여러 층으로 쌓고 고속 인터페이스를 적용해 대역폭을 대폭 끌어올리는 개념이다. 일부 업체는 낸드를 GPU 바로 옆에 붙이는 방식까지 검토하고 있다. 물리적으로 거리를 줄여 데이터가 오가는 시간을 최소화하겠다는 것이다. 낸드를 단순 '보관 창고'가 아니라 연산을 바로 뒷받침하는 저장장치로 쓰겠다는 구상이다.
2027년 전후 첫 양산 목표…본격 확산은 '시간 싸움'
하지만 HBF가 곧바로 HBM과 같은 궤적을 그릴 것이라고 보긴 어렵다. 기술적 과제가 적지 않기 때문이다.
플래시는 구조상 D램보다 지연 시간이 길다. 적층 수를 늘리면 발열과 전력 밀도 문제가 함께 커진다. 가속기와 가까이 붙일수록 발열이 커지고 데이터 신호가 불안정해질 수 있어 이를 동시에 잡아야 한다.
메모리업계 관계자는 "낸드는 본질적으로 저장 특화 소자라 저지연 특성을 구현하는 데 한계가 있다"며 "컨트롤러 구조와 인터페이스를 새로 설계해야 하는 수준"이라고 설명했다.
업계에서는 HBF가 빠르면 2027년 전후 첫 양산이 가능할 것으로 보지만 본격적인 시장 확대는 2030년 이후가 될 가능성이 크다고 본다. 주요 낸드 업체들은 지난해 내부 기술 검증을 마무리하고 올해부터 엔지니어링 샘플을 고객사에 공급하는 것을 목표로 잡고 있다. 빠르면 내년엔 제한적으로 양산이 가능할 것이란 관측도 나온다. 다만 HBF가 의미 있는 매출 비중을 차지하는 시점은 빨라도 2029년, 통상 2030년 이후로 보는 것이 시장조사업체들의 공통적 전망이다.
가격 역시 관건이다. HBM이 TSV(Through Silicon Via)와 첨단 패키징을 적용하면서 초기에는 일반 D램보다 3~4배 높은 가격에 거래됐던 것처럼 HBF도 초기에는 원가 부담이 클 가능성이 높다. 비용이 충분히 낮아지기 전까지는 일부 AI 추론 서버나 대규모 데이터 처리 환경에서만 수요가 발생할 것이란 분석에 힘이 실린다.
또 다른 메모리업계 관계자는 "HBM도 2019년 소량 양산 이후 4년이 지나서야 폭발적으로 수요가 생겼다"며 "HBF 역시 기술 안정화와 고객 검증을 거치는 시간이 필요하다"고 말했다.
장소희 기자
Copyright © 블로터