"HBM 속도경쟁만 하지 마라" 10년 뒤 보라는 HBM 설계자

━

‘1세대 HBM 개발’ 칩플렛 CEO, 브라이언 블랙의 조언

■ 경제+

「 ▶SK하이닉스가 삼성전자를 제치고 D램 시장 1위에 올랐다. ▶엔비디아가 인공지능(AI) 칩에 ‘*칩렛’을 도입했다. ▶SKC 유리기판이 AMD 품질 인증에서 호평받았다. 올해 반도체 시장의 뉴스 셋은 무관해 보이지만, 진원(震源)은 한 사람에서 겹친다. AMD·SK하이닉스 ‘첫 번째 HBM’ 프로젝트 리더였고, 칩렛 기술의 선구자이자, SKC 유리기판과 설계 협력하는 ‘칩플렛(Chipletz)’의 창업자인 전 AMD 시니어 펠로(최고 엔지니어) 브라이언 블랙 박사다. 지난 5일 전자패키징 국제학술대회(ISMP) 참석차 대구에 온 그를 인터뷰했다. 그는 “컴퓨팅 역사상 처음으로, 칩을 쌓고 엮는 패키징이 전체 시스템의 성능을 좌우하기 시작했다”라고 말했다.

*칩렛 : 여러 개 다이(Die, 실리콘 조각)를 하나의 칩으로 조합하는 기술
」

◆HBM은 왜 망해 가던 회사에서 나왔나=어떤 기술은 20년 후 세상을 바꾼다. 마치 심해에 오래 머물다 마침내 수면 위 거대한 물기둥을 뿜으며 세상을 강타하는 핵잠수함처럼. 2006년 인텔 수석 엔지니어였던 블랙 박사가 발표한 ‘칩을 위로 쌓고 연결하기(3D 칩 스태킹)’ 기술이 그렇다. 그는 2007년 AMD로 영입돼 ‘그래픽처리장치(GPU)와 메모리를 쌓는’ 프로젝트를 시작했고, 하이닉스가 파트너로 합류했다.

HBM 출시(2015년)까지 8년 반이 걸렸다. 재정난으로 파운드리(위탁제조)를 팔고 CEO가 세 번 바뀐 AMD에나, 채권단 관리(워크아웃) 졸업 후 간신히 SK 품에 안긴 하이닉스에나, 힘겨운 기간이었다. 그러나 그들이 만든 ‘GPU 연산- HBM 메모리’ 구성은 이후 AI 컴퓨팅의 표준이 됐다.

Q : 첫 HBM을 만든 게 경영난을 겪은 AMD와 SK하이닉스라는 건, 모순적이지 않나.
A : “모순이 아니다. 절박한 이들이 무언가를 해낸다. 당시 세계 최고였던 인텔은 모든 기술을 가졌지만, 안 쓰기로 결정했다. 이미 가장 앞서 있기에 새로운 구조의 GPU에 관심이 없었다. 그러나 AMD는 인텔의 방식으로 인텔을 이길 수 없기에, 특별한 뭔가를 만들어야만 했다. 당시 삼성전자는 하이닉스보다 훨씬 뛰어났기에 HBM을 만들 필요도 의지도 없었다. 절박한 AMD와 SK하이닉스가 사람과 돈을 들여 새로운 시도를 했다. 혁신은 이런 식으로 나온다.”

Q : 현재 최고인 엔비디아는 어떤가.
A : “최고의 기업이 최고의 혁신가는 아니다. 혁신은 보다 작거나 위기에 처한 조직에서 나오는데, 큰 기업이 굳이 하지 않는 걸 절박하게 만들어내서다.”

Q : 올해 SK하이닉스가 삼성전자를 제치고 D램 1위를 차지했다.
A : “SK하이닉스가 1위를 오래 지킨다면, 삼성은 절박해져서 특별한 무언가를 만들려 할 거다. 반면에 하이닉스는 방심하다가 지게 될 거다. 이런 순환은 항상 일어난다.”
◆HBM은 ‘목표’가 아닌 ‘결과’다=블랙 박사는 아키텍트(컴퓨터 구조의 설계자)로, ‘D램을 층층이 쌓아 구멍 뚫어 연결하고 GPU 옆에 붙인 뒤 인터포저(중간기판)로 연결하는’ 지금의 GPU-HBM 구조를 만들었다. 그러나 그는 “나는 HBM을 만들려고 노력한 적 없다”고 했다. 개발은 ‘해결하려는 문제’에서 시작하며, 제품은 그 결과물이라는 거다.

Q : 제품 개발의 가장 중요한 요소는?
A : “인내(patience). 기술을 이끄는 사람들의 인내다. 제품 개발은 출구가 있는지도 알 수 없는 어두운 터널을 걷는 것과 같다. 제자리걸음일 때도, 가끔 기술적으로 크게 도약하는 순간도 있다. 길고 고통스러운 작업이라 해낸다는 믿음과 인내 없이 불가능하다.”

HBM 구조도 그래픽 이미지. [자료제공=AMD]

그는 제품 개발의 여정을 HBM을 예로 들어 설명했다. “우리의 질문은 ‘어떻게 하면 메모리가 전력을 덜 쓰고 GPU에 몰아줄 수 있을까’였다. 그러면 다음 단계가 떠오른다. ‘우리는 D램 쌓을 줄 알아. D램의 전력 관리는 어떻더라?’ 그래서 ‘GPU가 모든 전력 사용을 제어할 수 있는 쌓아놓은 D램’을 설계했다. 이게 HBM이 탄생한 이유다.”

◆‘HBM4 속도 경쟁’에 보내는 고언(苦言)=1세대 HBM은 데이터 전송 속도는 느리지만 데이터가 드나드는 폭(I/O, 입출력)이 넓고 거리가 짧았다. 예컨대, 제한 속도가 30㎞/h여도 두 지점 간 거리를 확 좁히고 2차선 도로를 4차선 확장했더니 교통 체증이 사라진 거다. 그러나 이후 HBM은 속도를 급격히 올렸다. HBM4는 HBM에 비해 폭(I/O)은 2배지만, 속도는 8배다(표준 규격 기준).

신재민 기자

SK하이닉스와 삼성전자는 반도체표준협회(JEDEC) 규격을 훌쩍 넘겨, HBM4 속도 경쟁을 벌이고 있다. 그런데 블랙 박사는 “메모리 기업이 HBM 속도 올리는 데 집중해서는 안 된다”고 했다.

Q : 그럼 무엇을 해야 하나?
A : “인터페이스(물리적 구조)를 바꿔야 한다. HBM의 핵심 목적은 속도를 늦추고, 복잡도를 낮추며, 전력 소모를 줄이는 거였다. 그런데 계속 속도를 높이면서 전력 소비와 비용이 커지고 있다. ‘약간 빨라진 차세대 D램’은 흥미롭지 않다. 진정한 변화가 필요하다.”

Q : 메모리의 진정한 변화란?
A : “현재의 16~32배까지 대역폭을 늘릴 수 있는 최적의 D램 구조를 찾아내고 그걸 가능하게 하는 기술을 개발해야 한다. 업계에 10년~15년마다 충격적 변화가 있었고, 지금 그게 필요하다.”
고객사는 고속 HBM을 원하고 있다. 거대언어모델(LLM)의 크기가 기하급수적으로 증가해 필요한 대역폭이 급등했고, 빠른 해법은 속도를 올리는 거였다. 특히 엔비디아는 메모리 3사에 HBM4 속도를 규격보다 높일 것을 요구했다. 블랙 박사는 엔비디아를 지칭하지 않았으나, ‘회사가 미래를 위한 기술 개발을 중단하게 되는 이유’를 이렇게 말했다.

“정말 큰 고객을 얻게 되면, 그 고객이 현재 원하지 않는 일을 하기가 쉽지 않다. 고객을 지키는 데 온 힘을 쓰느라 그와 무관한 기술 개발을 접는 거다. 그러다 고객이 마음을 바꿔 다른 것을 원하는 순간 대응할 수 없게 된다. 고객은 즉시 떠나고 아무것도 안 남는다. 이 위험에서 자유로운 회사는 없다.”

◆칩렛, 유리기판의 현재와 미래=모토로라·인텔·AMD의 아키텍트였던 블랙 박사는 3D 반도체를 연구하면서 칩을 쌓고 붙이는 ‘패키징’에 깊숙이 관여하게 됐다. 아키텍트는 컴퓨터 시스템의 첫 단계에서 ‘큰 그림’을 그리는데, 패키징은 반도체 제조의 가장 뒷단(후공정)이다.

신재민 기자

Q : 패키징에 관심 가진 계기는?
A : “지금은 차세대 반도체 설계보다 패키징의 변화가 컴퓨팅 성능에 훨씬 큰 영향을 준다. CPU 설계 엔지니어 1000여 명이 매달려도 고작 0.5% 정도 성능이 올라가는데 칩렛, 적층 같은 패키징을 통해 성능이 두 배 오르기도 한다.”
칩렛은 복잡한 칩을 레고 블록처럼 나눠 만들었다가 재조합하는 기술이다. AMD는 2019년부터 CPU·GPU에 칩렛을 도입했고, 엔비디아는 올해 출하한 블랙웰(GB200)에 적용했다. 칩플렛은 칩렛 설계 플랫폼 ‘스마트 기판’을 개발했는데, 레고 블록을 쉽게 바꿔 끼울 수 있는 ‘최첨단 바닥판’인 셈이다.

칩플렛의 대주주는 AMD와 ASE(세계 1위 패키징 기업)이며, SKC는 2023년 칩플렛 지분 10%대를 인수해 전략적 투자자가 됐다. SKC의 유리기판 사업 자회사인 앱솔릭스는 칩플렛과 밀접하게 협력하고 있다. 단단하고 열에 강한 유리는 여러 개 칩을 촘촘히 배치하는 데에 기존 기판보다 유리하다. 첫 HBM을 만든 SK그룹과 AMD의 협력이 유리기판에서 재현되는 셈이다.

Q : 칩렛 기술의 과제는?
A : “칩렛을 적용하면 개별 칩의 수율이 높아지고 비용도 저렴하지만, 칩렛끼리의 통신에 추가 전력과 면적이 필요하다. 이걸 극복해야 한다.”

Q : SKC와 유리기판 협력 진척은?
A : “새로운 시도를 하고 있는데 완성 전까지 공개하지 않겠다. SKC 외에도 많은 한국 회사와 좋은 협력을 진행하고 있다.”

■ 인류 최고의 발명품 중 하나는 ‘기업’입니다. 기업은 시장과 정부의 한계에 도전하고 기술을 혁신하며 인류 역사와 함께 진화해 왔습니다. ‘기업’을 움직이는 진정한 힘이 무엇인지, 더중플이 더 깊게 캐보겠습니다.

「

QR코드를 스캔해 The JoongAng Plus에 접속하면, 인류 최고의 발명품 기업을 연구하는 ‘The Company’의 보다 많은 콘텐트를 볼 수 있습니다.

“삼성·SK, 속도 경쟁할 때 아냐” HBM 최초 설계자의 경고
https://www.joongang.co.kr/article/25380883

‘부아앙’ 야수 심장 못 버린다…마세라티 전기차 그 소리 비밀
https://www.joongang.co.kr/article/25379159

여야 보좌관 십수명 영입했다…“영감님 피해라” 대관팀 24시간
https://www.joongang.co.kr/article/25377010

中 반도체 태클에 삽 들었다…‘한삽에 14억’ 美가 퍼올린 흙
https://www.joongang.co.kr/article/25375160
」

대구=심서현 기자 shshim@joongang.co.kr