D램 쌓는 HBM과 달리 ‘낸드 적층’ 구조 SK하이닉스-샌디스크, HBF 표준화 시동 “2038년, HBF 수요가 HBM 넘어선다”
(샌디스크 자료 갈무리)
SK하이닉스가 미국 플래시 메모리 기업 샌디스크와 손잡았다. 고대역폭플래시(HBF) 글로벌 표준화를 위해서다. SK하이닉스는 “샌디스크와 HBF를 업계 표준으로 마련해 인공지능(AI) 생태계 전체가 함께 성장하는 기반을 구축하겠다”며 “세계 최대 개방형 데이터센터 기술 협력체인 OCP 산하에 핵심 과제 전담 워크스트림을 샌디스크와 구성, 본격적인 표준화 작업에 착수하겠다”고 밝혔다.
HBF는 D램을 쌓는 HBM과 달리 비휘발성 메모리인 낸드 플래시를 적층한 형태다. 역할도 구분된다. HBM이 빠른 연산 보조 역할이라면, HBF는 AI가 처리하는 방대한 데이터를 대용량으로 저장하는 데 초점이 맞춰졌다.
관련 업계와 전문가들이 HBF를 주목하는 건 AI 트렌드와 관련 있다. AI 시장은 크게 학습(Learning)과 추론(Inference)으로 구분된다. 학습은 수많은 데이터를 입력해 AI 모델을 가르치는 과정이다. 추론은 학습 데이터를 바탕으로 결과물을 도출하는 단계다. 지금까지는 학습의 중요성이 대두됐지만 최근에는 추론이 핵심으로 떠오른다.
HBF 구조도. (샌디스크 자료 갈무리)
추론 AI에서는 핵심 요건이 달라진다. 이전 대화와 판단 결과, 작업 맥락 등 방대한 중간 데이터를 지속적으로 저장하고 불러오는 능력이 중요하다. AI가 맥락을 기억하며 판단을 이어가는 구조여서다. 문제는 이 데이터를 모두 HBM에 담기 어렵다는 점이다. HBM은 즉각적으로 쓰이는 데이터 처리에 최적화된 만큼 용량 자체는 제한적이다. 또 비싼 가격을 고려하면 추론 과정에서 생성되는 방대한 맥락 데이터를 HBM만으로 처리할 경우 비용 부담이 상당하다. 이에 HBM과 HBF가 동시에 필요한 환경이 형성된 것이다. 일종의 분업이다.
김정호 KAIST 전기·전자공학과 교수는 최근 서울 중구 프레스센터에서 ‘HBF 연구내용 및 기술개발 전략 설명회’를 열고 “PC 시대에는 중앙처리장치(CPU), 스마트폰 시대에는 저전력이 핵심이었다면 AI 시대에선 메모리가 핵심”이라며 “속도를 결정하는 것이 HBM이고 용량을 결정하는 것이 HBF”라고 말했다. 그러면서 “2038년부터는 HBF 수요가 HBM을 넘어설 것”이라고 내다봤다.
