“HBM 다음 병목은 HBF”...컴퓨터공학 거장의 예언

데이비드 패터슨 UC버클리대 교수
HBF는 낸드플래시를 적층한 형태
추론 시장 커지며 HBF 필요성 대두

데이비드 패터슨 UC버클리대 교수가 4월 30일(현지시간) 미국 샌프란시스코에서 열린 드리미 행사에서 강연을 진행 중이다. 사진 가장 오른 쪽이 데이비드 패턴슨 UC버클리대 교수. (매경DB)

“저는 꾸준히 고대역폭플래시(HBF)를 주목해왔습니다. 관련해서 반도체 기업과 협업 중이기도 합니다. HBF는 새로운 병목(수요 폭증)의 중심에 설 가능성이 높습니다.”

튜링상 수상자이자 RISC(명령어를 단순화해 처리 효율을 높인 방식) 아키텍처의 설계자로 불리는 ‘데이비드 패터슨(David Patterson)’ UC버클리대 교수는 4월 30일(현지시간) 미국 샌프란시스코에서 열린 드리미 넥스트 강연 직후 기자와 만난 자리에서 이 같이 밝혔다.

패터슨 교수는 현재 병목 상태인 HBM(고대역폭메모리)의 다음 단계에 대한 질문에, HBF가 새롭게 부상할 것이라고 답했다. 구체적으로 “여전히 여러 기술적 과제가 남아 있지만, SK하이닉스와 샌디스크 등이 개발 중인 HBF는 적은 전력으로 큰 용량을 제공할 수 있다는 점에서 의미 있는 대안”이라며 “앞으로는 데이터를 얼마나 효율적으로 저장하고 공급하느냐가 핵심 변수가 될 것”이라고 말했다. SK하이닉스는 지난 3월 미국 플래시 메모리 기업 샌디스크와 손잡고 HBF 글로벌 표준화에 나선다고 밝혔다.

HBF는 D램을 쌓는 HBM과 달리 비휘발성 메모리인 낸드플래시를 적층한 형태다. 역할도 구분된다. HBM이 빠른 연산 보조 역할이라면, HBF는 AI가 처리하는 방대한 데이터를 대용량으로 저장하는 데 초점이 맞춰졌다.

HBF는 AI 추론 시장이 커지면서 주목받고 있다. AI 시장은 크게 학습(Learning)과 추론(Inference)으로 구분된다. 학습은 수많은 데이터를 입력해 AI 모델을 가르치는 과정이다. 추론은 학습 데이터를 바탕으로 결과물을 도출하는 단계다.

(샌디스크 자료 갈무리)

추론 AI에서는 이전 대화와 판단 결과, 작업 맥락 등 방대한 중간 데이터를 지속적으로 저장하고 불러오는 능력이 중요하다. AI가 맥락을 기억하며 판단을 이어가는 구조여서다. 문제는 이 데이터를 모두 HBM에 담기 어렵다는 점이다. HBM은 즉각적으로 쓰이는 데이터 처리에 최적화된 만큼 용량 자체는 제한적이다. 또 비싼 가격을 고려하면 추론 과정에서 생성되는 방대한 맥락 데이터를 HBM만으로 처리할 경우 비용 부담이 상당하다. 이에 HBM과 HBF가 동시에 필요한 환경이 형성된 것이다. 일종의 분업이다.

국내 전문가들도 앞으로 HBF의 중요성이 커질 것으로 내다본다. 김정호 KAIST 전기·전자공학과 교수는 지난 2월 HBF 연구내용 및 기술개발 전략 설명회에서 “PC 시대에는 중앙처리장치(CPU), 스마트폰 시대에는 저전력이 핵심이었다면 AI 시대에선 메모리가 핵심”이라며 “속도를 결정하는 것이 HBM이고 용량을 결정하는 것이 HBF”라고 말했다. 그러면서 “2038년부터는 HBF 수요가 HBM을 넘어설 것”이라고 내다봤다.