"HBM 다음은 HBF… 삼성전자·SK하이닉스에 기회의 땅"

김정호 카이스트 전기 및 전자공학부 교수가 3일 서울 중구 프레스센터에서 열린 HBF 기술 개발 성과 발표회에서 발표하고 있다.

인공지능(AI) 기술 경쟁의 무게중심이 연산 성능에서 메모리 구조로 이동하면서 삼성전자와 SK하이닉스 등 국내 메모리 반도체 기업들이 중장기 수혜를 입을 것이라는 전망이 제기됐다. 고대역폭메모리(HBM)에 이어 차세대 메모리로 꼽히는 고대역폭플래시메모리(HBF)가 차세대 AI 시대에 핵심 축으로 부상할 것이라는 분석이다.

또 HBF가 10여년 후에는 주요 D램인 HBM 시장을 뛰어넘을 것이라는 관측도 나왔다.

김정호 카이스트 전기 및 전자공학부 교수는 3일 서울 중구 프레스센터에서 열린 'HBF 연구소개 및 기술개발 전략 설명회'에서 "AI 시대를 10단계로 나눈다면 지금은 1~2단계에 불과하다"며 "초기 핵심 부품은 반도체이고, 그중에서도 결국 승부를 가르는 것은 메모리"라고 밝혔다.

HBF는 비휘발성 메모리인 낸드 플래시를 수직으로 쌓아 용량을 극대화한 메모리다. 여러 개의 D램을 수직으로 쌓은 HBM과 개념이 유사하다.

HBF의 최대 장점은 '대용량'이다. 데이터처리 속도를 극대화한 HBM보다 10배까지 용량 확장이 가능하고 가격은 저렴해 HBM의 비용과 용량 문제를 해결할 차세대 메모리 기술로 꼽힌다.

그는 "그동안 AI 성능 경쟁은 그래픽처리장치(GPU)가 주도해 왔지만, 앞으로는 메모리가 더 중요한 시대가 될 것"이라며 "HBF를 통해 AI 컴퓨팅은 또 한 번 도약하게 될 것"이라고 강조했다.

김 교수는 AI 기술 진화 방향으로 실시간 학습과 연속 학습을 제시했다. AI가 질문에 따라 데이터를 탐색하며 답을 생성하고, 과거의 모든 결과물을 기억한 채 평생 학습하는 구조로 진화하면서 데이터 사용량이 폭발적으로 증가하고 있다는 설명이다.

그는 "학습과 추론을 분리해 보던 기존 시각은 더 이상 유효하지 않다"며 "이제는 두 과정의 경계가 사실상 무너졌다"고 말했다.

김 교수는 이 같은 변화가 메모리 수요 구조 자체를 바꾸고 있다고 설명했다. 그는 AI 메모리를 '핫 메모리'와 '콜드 메모리'로 구분했다.

즉각적인 연산에 필요한 핫 메모리는 HBM이 담당하고, 방대한 과거 정보를 저장하는 콜드 메모리는 낸드플래시 기반 스토리지가 맡는다는 것이다. 그는 "AI에게 '어렸을 때 모습을 그려달라'고 하면 과거 데이터를 정확히 꺼내와야 하는데, 이 역할은 HBM이 아니라 콜드 메모리 영역"이라고 설명했다.

문제는 기존 구조에서는 GPU가 생성 속도를 결정하더라도, 대용량 데이터는 중앙처리장치(CPU) 쪽에 붙은 스토리지에서 읽어와야 한다는 점이다.

김정호 카이스트 전기 및 전자공학부 교수가 3일 서울 중구 프레스센터에서 열린 HBF 기술 개발 성과 발표회에서 발표하고 있다.

김 교수는 "이미지·영상·사운드·문서가 결합된 멀티모달 AI 환경에서 솔리드스테이트드라이브(SSD)에서 데이터를 읽어오는 방식으로는 속도를 따라갈 수 없다"며 "메모리를 GPU 옆에 붙이는 구조가 필요하고, 그 허리 역할을 하는 것이 HBF"라고 말했다.

그는 이 같은 구조적 변화가 삼성전자와 SK하이닉스에 유리하게 작용할 가능성이 크다고 내다봤다. 두 회사는 HBM 기술뿐 아니라 낸드플래시와 패키징 역량을 동시에 보유한 몇 안 되는 기업이기 때문이다.

김 교수는 "구글은 방대한 데이터라는 강점을 갖고 있지만, 파운드리와 메모리 패키징은 없다"며 "이 영역은 삼성과 SK하이닉스의 강점이자 절대 내줘서는 안 되는 경쟁력"이라고 강조했다.

그는 향후 AI 컴퓨터에서 메모리 수요가 지금보다 100배에서 최대 1000배까지 증가할 수 있다고 내다봤다. GPU와 메모리가 분리된 구조에서 벗어나, HBM 뒤에 HBF가 결합된 형태가 표준이 될 가능성이 높다는 전망이다. 또 오는 2038년부터는 HBF 수요가 HBM을 넘어설 것이라고 내다봤다

김 교수는 엔비디아 중심의 AI 생태계에도 변화가 불가피하다고 진단했다. 그는 "현재 GPU는 메모리 공간과 통신 지연 문제로 두 개 이상을 붙이기 어렵다"며 "GPU 간 통신 비용이 늘어나는 구조에서는 2~3년 내 엔비디아의 주도력이 약화될 가능성도 있다"고 말했다. 반면 AMD는 메모리 중심 전략을 보다 적극적으로 추진하고 있다고 평가했다.

메모리의 위상 변화는 산업 구조와 수익성에도 영향을 미칠 전망이다. 김 교수는 "메모리는 더 이상 표준 제품이 아니라 고객 맞춤형 제품으로 바뀌고 있다"며 "주문을 받아 설계·제작하는 구조가 되면서 공급자 우위 시장이 형성되고, 이는 매출과 가격, 주가에도 반영될 것"이라고 분석했다.

업계에서는 엔비디아의 신규 플랫폼에 HBF가 탑재될 것으로 보고 내다보고 있다. HBF 시대를 대비하기 위해 SK하이닉스는 내년 양산을 목표로 HBF를 개발하고 있으며 샌디스크는 지난해 7월 HBF 기술 자문 위원회를 출범하기도 했다.

끝으로 김 교수는 "스마트폰 시대에는 저전력이 중요해 퀄컴이 부상했지만, AI 시대에는 메모리가 산업을 지배하게 될 것"이라며 "속도를 결정하는 HBM과 용량을 책임지는 HBF를 모두 구현할 수 있는 삼성전자와 SK하이닉스 등이 AI 컴퓨터 시대의 승자가 될 것"이라고 덧붙였다.

글·사진=이상현 기자 ishsy@dt.co.kr