[하우머니] AI 시대의 중심은 HBM…한국 기술력 어느 정도?

■ 머니쇼 '하우머니' - 김정호 카이스트 전기 및 전자공학부 교수

AI 산업은 끝을 모르는 듯 성장하고, 미국과 중국의 AI 패권 경쟁이 치열해지는 상황입니다. 이 모든 것의 핵심이자 중심이라고 하는 HBM에 대해 알아보겠습니다. 카이스트 전기 및 전자공학부 김정호 교수 모셨습니다.

Q. AI 시대가 시작되면서 HBM의 중요성이 더욱 커진 듯한데요. 교수님께서는 HBM 연구를 2000년부터 시작하셨다고 하던데, 시작하게 된 계기가 있으실까요? 

-2000년부터 HBM 연구…시작하게 된 계기는?
-2000년부터 HBM 필요 기초 기술 연구 시작
-과거 SK하이닉스와 HBM 설계 작업도 진행
-꾸준한 연구로 삼성·SK 등 HBM 구조에 영향

Q. 국내 기업 중 HBM 하면 떠오르는 곳이 바로 SK하이닉스입니다. 하반기에 HBM4를 양산한다고 하는데요. HBM4라고 하면 쉽게 말해 어느 정도의 기술력을 가졌다고 봐야 할까요? 

-SK하이닉스, 하반기 HBM4 양산 준비 시작
-DB證 "SK하이닉스, HBM4 시장도 선도할 것"
-하이닉스, HBM4 선점…삼성·마이크론 맹추격
-하이닉스, 세계 최초로 HBM4 12단 샘플 공급
-삼성전자, HBM4 기반 구축·설비 투자도 병행
-트렌드포스 "HBM4, 하이닉스 점유율 50% 이상"
-하이닉스, 엔비디아 GB300용 HBM3E 물량 선점
-하이닉스, D램 1b 나노 기반 HBM4 개발 속도
-젠슨 황, 하이닉스에 "HBM4 잘 지원해 달라"

Q. 인공지능 하면 HBM이 절로 따라붙는 필수가 됐죠. 생성형 AI인 챗GPT가 등장한 후에도 더 좋은 HBM이 요구되는 듯해요. HBM은 AI 시대에서 정확히 어떤 역할을 한다고 봐야 하나요? 

-AI 시대, HBM 역할은 어느 정도까지 커졌나
-AI 시대 개화…HBM, 반도체 생태계의 중심으로
-생성형 AI 등장에 HBM이 연산에 중요한 역할
-생성형 AI, HBM 대역폭·GPU 간 통신 속도 중요
-"AI가 세상을 지배"…HBM 역할의 중요성 커져
-미중 간 AI 패권 경쟁…HBM이 기술 경쟁 핵심
-AI의 콘텐츠 생성 속도, HBM의 성능이 관건
-HBM 주도권 가져야 AI 시대의 생존력 강화
-"생존 위해 젠슨 황이 한국 찾게 만들어야"
-HBM, 빠른 연산 속도 맞춰 데이터 저장·활용
-HBM, 고성능 D램을 여러 층으로 쌓아 올려

Q. AI 데이터센터를 이야기하다 보면 따라 나오는 게 바로 GPU입니다. GPU가 많이 있어야 AI 데이터센터가 돌아가고, 그로 인해 방대한 양의 전력이 필요하다는 게 공식처럼 따라와요. 그럼 사실 HBM보다 GPU가 더 중요한 것 아닐까요? 

-AI 시대, GPU는 필수…HBM보다 더 중요할까?
-GPU, 그래픽 처리 장치…게임·동영상 색감 구현
-GPU 최강자 엔비디아…"AI 구동에 적합 확인"
-연산용 CPU, 계산 정확하나 AI 활용에는 '저속'
-"AI, 시행착오 빨리 다양하게 거칠수록 유리"
-GPU, 빠른 속도 연산…"수많은 정보 한꺼번에"
-GPU가 CPU보다 연산 능력 압도적으로 높아
-엔비디아, 2006년 쿠다 출시…슈퍼컴퓨팅 집중

Q. 챗GPT를 활용한 이미지 생성이 한때 유행했잖아요. 지브리 스타일, 심슨 스타일 등등. 카톡 친구 프사의 대부분이 지브리 스타일인 경우도 있었거든요. 그런데 오픈 AI의 샘 올트먼이 그만해 달라고 엔지니어들도 못 자고 GPU도 녹는다라고 했거든요. 그 말을 들어보면 AI 시대, GPU의 역할이 중요한 게 맞는 듯해요?

-샘 올트먼 "지브리 이미지 생성에 GPU 녹아"
-샘 올트먼, GPU 부족 토로…"10만 대 줄 수 없나"
-GPU, 90%는 휴식…실제 일은 HBM이 많이 해
-메모리에서 데이터가 전송돼야 GPU 연산 시작
-"열은 GPU가 내지만 바쁘게 일하는 건 HBM"
-GPU 간 연결로 데이터 주고받기 시 '병목현상'
-NV링크, 케이블로 데이터 전달…속도에 한계

Q. 최근에 인터뷰하신 걸 보면 앞으로의 AI 실력은 HBM이 좌우할 거라고 하셨습니다. GPU는 품귀 현상까지 일어나고 있다는데, HBM이 결국 AI 패권을 쥐는 것의 핵심이 되는 걸까요? 

-결국 AI 패권 잡기의 핵심이 되는 것은 HBM?
-지금까지 AI 시대 HBM 방향은 엔비디아 주도
-대용량 데이터 처리↑…GPU 품귀 현상도 발생
-글로벌 AI 인프라 전쟁에 GPU 구하기는 '난항'
-한국, GPU 부족에 AI 연구 힘들다는 이야기도
-GPU 품귀 현상 지속…"AI 열풍에 장기화 전망“

Q. 현재로서는 HBM4에 대한 이야기까지 나온 상황인데요. HBM은 D램을 쌓는 것인데, 그 기술이 가장 중요한 거잖아요. HBM4를 넘어 앞으로 어느 정도까지 기술이 발전할 수 있다고 보세요? 

-'26년 HBM4 본격 출시 예정…얼마나 발전할까?
-HBM4 이후 3년마다 차세대 제품 개발 예상
-2038년 HBM8 등장 전망…대역폭 64TB/s까지
-HBM, D램 쌓아 TSV로 미세한 구멍 뚫어 연결
-HBM3E, 입출력 핀 수 1,024개…HBM4는 2,048개
-HBM 기술의 발전, 입출력 핀 수·냉각기술 관건

Q. HBM과 관련해서 냉각기술도 중요하다고 하는데요. 엔비디아가 얼마 전까지 발열 문제로 곤욕을 치른 것도 그것 때문이라고 봐야 할까요? 

-HBM 기술 발전, '냉각' 중요…발열 해결 관건?
-엔비디아, 블랙웰 발열 문제로 출하 지연 겪어
-엔비디아, 수냉식 기반 AI 인프라 확산 나서
-발열 문제 해결 위한 냉각용 TSV 기술도 등장

(자세한 내용은 동영상을 시청하시기 바랍니다.)

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지