SK하이닉스 주가 올린 최종병기 ‘HBM’

생성형 AI 덕에 몸값 뛴 엔비디아·AMD…SK하이닉스의 ‘HBM3’ 선택
D램 병렬 연결 개념, 처리속도 향상…삼성전자·마이크론은 개발 진행 중
경기 타지 않고 장기공급 계약 장점 불구, 시장 좁아 아직은 제값 못 받아

오픈AI의 인공지능(AI) 챗봇 챗GPT는 데이터 학습을 위해 엔비디아의 그래픽처리장치(GPU) ‘A100’ 1만개를 사용했다. 중앙처리장치(CPU) 위주인 일반 서버와 달리, 챗GPT 등 AI의 학습·운용(추론)에 이용하는 서버는 다수의 데이터를 동시에 처리해야 하기 때문에 병렬 연산에 특화한 GPU를 쓴다. 엔비디아가 GPU 시장의 대부분을 차지한 가운데 AMD 등 업체가 그 뒤를 잇는다.

최신 GPU를 만드는 이들의 발목을 붙잡는 건 바로 ‘D램’이다. AI 성능을 높이려면 데이터가 D램에서 GPU로 이동하는 시간을 줄여야 한다. GPU의 병렬 연산 능력이 커질수록 한 번에 처리할 수 있는 데이터의 양도 늘어나기 때문이다.

이를 위해 각 업체는 GPU와 최대한 가까운 곳에 고용량 D램을 배치하는 등 기판 형태로 만들어 판매한다. 그러나 웬만한 D램은 GPU의 처리 속도를 따라가지 못한다. 이에 대안으로 떠오른 메모리가 ‘고대역폭 메모리(HBM)’다.

14일 업계에 따르면, 엔비디아와 AMD는 자사 최신 AI용 GPU 기판에 넣는 HBM으로 SK하이닉스의 HBM3를 선택했다.

HBM은 여러 개 D램을 수직으로 쌓은 뒤, 1000개 이상 구멍을 뚫어 연결한 제품이다. 하나의 제품에 D램이 다수 사용되다 보니 기본적으로 고용량인 데다, 데이터가 지나다니는 연결통로가 많아 방대한 데이터를 한 번에 빠르게 실어나를 수 있다. 일반 D램의 데이터 통로가 1차선 도로라면, HBM 데이터 통로는 10차선쯤 되는 셈이다.

HBM은 SK하이닉스가 2013년 AMD와 함께 세계 최초로 선보인 후 현재 4세대 제품인 HBM3까지 개발됐다. D램의 강자인 삼성전자와 마이크론 역시 뒤늦게 제품 개발에 나섰지만 아직 HBM3를 내놓지는 못했다. 엔비디아는 A100에 SK하이닉스의 HBM2E(3세대 제품)를 장착한 데 이어, 올해 출시한 H100 제품에는 HBM3를 탑재했다. SK하이닉스는 최근 12단 HBM3 제품도 내놓았다. 제품 안에 적층되는 D램 개수를 8개(16GB·기가바이트)에서 12개로 늘려 용량을 50% 높인 제품으로, 최대 용량은 24GB이다. 업계는 AMD가 13일(현지시간) 공개한 GPU ‘MI300X’에 SK하이닉스의 12단 HBM3가 들어갔을 것으로 추정한다.

최근 엔비디아 주가가 고공행진하는 가운데 SK하이닉스가 13일 장중 52주 신고가(11만9000원)를 갈아치운 것도 이런 맥락에서다.

삼성전자는 왜 HBM3 개발이 늦어졌을까. 업계 관계자는 “삼성전자나 마이크론 등도 HBM3를 개발하고 있지만 시장 수요가 크지 않다 보니 출시를 서두르지 않는 것 같다”고 말했다. 실제로 HBM 수요는 전체 D램 수요의 1% 수준에 불과한 것으로 알려져 있다.

HBM은 일반적인 D램처럼 똑같이 찍어내는 제품이 아니라, GPU에 맞춰서 고객사에 개별로 공급돼야 하기 때문에 가격이 비싸고 장기 공급이 가능하다. 다만 프리미엄 제품인데도 가격 결정권이 있는 GPU 업체에 납품하다 보니 제값을 충분히 받지는 못하는 게 한계다. 박정호 SK하이닉스 부회장도 지난 3월 주주총회에서 “엔비디아는 A100을 1만달러(약 1200만원)에 팔지만, SK하이닉스는 HBM을 200달러(약 25만원) 미만으로 공급한다”고 말했다.

이재덕 기자 duk@kyunghyang.com