SK하이닉스, 5세대 HBM3E 12단 세계 최초로 양산

최첨단 고성능 AI반도체에 필수
“속도·용량·안정성 최고 수준”

SK하이닉스는 25일(현지시각) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'OIP 에코시스템 포럼 2024'에 참가해 최신 인공지능(AI) 메모리 설루션을 선보였다고 밝혔다. 사진은 SK하이닉스 HBM3E·엔비디아 H200 GPU. /SK하이닉스

SK하이닉스가 5세대 고대역폭 메모리(HBM)인 HBM3E의 12단 제품을 세계에서 가장 먼저 양산해 엔비디아에 납품한다. HBM은 D램을 여러개 쌓은 것으로 인공지능(AI) 반도체에 필수적이다. 단이 높을수록 데이터 처리 속도가 빠르고 전력 효율이 높다. SK하이닉스는 지난 3월 HBM3E 8단을 엔비디아에 처음 공급한 데 이어 이번에 12단을 공급하게 됐다.

26일 SK하이닉스는 “현존 HBM 중 최대 용량인 36GB(기가바이트)의 HBM3E 12단을 세계 최초로 양산해 4분기 내 주요 고객사에 제품 공급을 시작한다”며 “속도·용량·안정성에서 업계 최고 수준”이라고 밝혔다. HBM3E 12단은 B200A, GB200A 등 엔비디아의 최첨단 고성능 AI 반도체에 들어갈 전망이다.

기존 8단 제품과 동일한 두께로 D램 칩 12개를 적층해 용량을 50% 늘렸다고 SK하이닉스는 밝혔다. 기존 D램 칩을 전작보다 40% 얇게 만들고, 데이터의 이동 통로 역할을 하는 실리콘전통관극(TSV) 기술을 활용했다. 동작 속도는 9.6Gbps(초당 기가비트)로 최고 속도를 구현한다. 특히 AI 학습 훈련에서 속도를 크게 높였다. 두께를 늘리지 않으면서도 성능을 높인 것도 특징이다. SK하이닉스 측은 “HBM3E 12단 4개와 그래픽처리장치(GPU) 1개로 구성한 AI 반도체로 메타의 거대언어모델(LLM)을 테스트한 결과, 700억개의 전체 파라미터(매개 변수)를 초당 35번 읽어낼 수 있는 수준을 구현했다”고 밝혔다.

삼성전자는 지난 2월 HBM3E 12단을 세계 최초로 개발했고, 고객사의 성능 테스트를 거쳐 하반기 중 양산을 시작한다는 계획이다. 메모리 업계 3위인 미국 마이크론도 이달 초 같은 제품을 개발했다고 발표했다.