반도체 쌓고 구멍 뚫고…유별난 호기심이 'HBM의 아버지' 낳았다

━
‘HBM 아버지’ 김정호 카이스트 교수

김정호 KAIST 전기·전자공학과 교수는 “카이스트 출신 연구자를 중심으로 한국이 AI 반도체 패권을 잡게 할 것”이라며 “한국에 오지 않는 젠슨 황이 우릴 찾아오게 하겠다”고 말했다. 김성태 객원기자

인공지능(AI) 시대의 개막과 함께 수시로 뉴스에 등장하는 용어가 있다. HBM, 풀어쓰면 ‘고대역폭메모리’란 의미다. AI를 구현하려면 고성능 그래픽처리장치(GPU)를 써야 하는데, 데이터 처리속도가 월등한 HBM 없이는 GPU를 유지할 수 없다.

이 산업의 대표적인 수혜자가 최고 성능의 5세대 HBM인 ‘HBM3E’ 양산에 성공, 엔비디아에 독점 납품하고 있는 한국의 SK하이닉스다. SK하이닉스는 HBM 수요폭발에 힘입어 3분기 매출과 영업이익에서 분기 최대 실적을 달성했다. 부동의 업계 1위이던 삼성전자 주가가 고전을 면치 못하는 것도 고성능 HBM 개발 경쟁에서 한발 밀린 탓이 크다. HBM은 전자기기나 데이터센터 등에도 사용할 수 있어 수요가 급증하고 있다. 전기차 제조사인 테슬라가 삼성전자에 6세대 HBM 개발과 공급을 요청한 상태다.

타 교수 연구실 들렀다가 구멍에 관심
HBM의 기본 구조를 창안한 사람이 ‘HBM의 아버지’라 불리는 김정호 한국과학기술원(KAIST) 전기·전자공학과 교수다. 그는 2010년 종래의 메모리 소자인 D램을 3차원 적층 구조로 쌓는 기술을 고안했고 그것이 지금의 HBM이 됐다. 그 이후 SK하이닉스와 손잡고 HBM 양산에 성공, 지금도 차세대 HBM 개발에 매진하고 있다. 김 교수를 카이스트 나노과학기술원 테라랩(Teralab)에서 만났다.

Q : HBM은 어떻게 탄생했나요.
A : “어느 날 TV를 보고 있는데, 문득 새로운 형태의 고성능 메모리 반도체가 필요하겠다는 생각을 했습니다. TV 화질을 더 좋게 하려면 고성능 메모리 반도체가 필수거든요. 그런데, 가장 대중적인 메모리 반도체인 D램은 사실상 기술적 한계에 와 있었어요. 더 이상 작게 만들기 어려웠던 거죠. 무어의 법칙(반도체 성능이 2년마다 두 배로 증가한다는 법칙)이 한계에 도달한 겁니다. D램을 아파트처럼 쌓아 올릴 수밖에 없겠더라고요. 그게 ‘3차원 적층 구조’ HBM의 시작입니다.”

Q : 쌓아 올리는 것만으로 성능을 높이긴 쉽지 않았을 텐데요.
A : “그렇죠. 고안한 순간부터 기술적 난관에 부딪혔습니다. 그러다 재료과의 동료 교수한테서 힌트를 얻었어요. 그분 연구실을 놀러 갔더니 온종일 반도체에 구멍을 뚫고 있더라고요. 패키징(반도체를 자르고 묶어 성능을 높이는 과정) 기술을 연구하는 과정이었는데, 저한테 어떻게 구멍을 뚫으면 좋겠냐고 물어보시더라고요. 그날부터 저도 구멍 뚫는 방법을 고민했습니다. 그러다 호기심이 생겼어요. 쌓아 올린 반도체에 구멍을 뚫어 전력과 신호를 공급하면 어떨까, 하는. HBM의 핵심 기술 중 하나인 실리콘관통전극(TSV) 기술이 접목된 배경입니다.”

HBM

당시 김 교수 연구실은 ▶D램을 쌓는 기술(적층) ▶TSV ▶D램을 연결하는 접지기술 등을 오랜시간 연구하고 있었다. 때마침 SK하이닉스가 AMD·엔비디아 등과 고성능 메모리를 설계하던 참이었고, 김 교수와 연구협력을 해온 SK하이닉스가 아이디어를 채택하기로 결정했다. 김 교수는 “알고 보니 우리 연구실이 연구한 적층·TSV·접지기술이 AMD·엔비디아가 원한 메모리 반도체의 핵심 기술이었다”고 전했다. 그게 2010년이었는데, 김 교수는 HBM이 소위 ‘대박’이 날 것이라고는 예측하지 못했다.

Q : 2010년 이후 계속 HBM을 연구했습니다. 상업적 성공 가능성을 내다본 건가요.
A : “지금처럼 AI의 핵심 반도체가 될 것이라고는 당연히 몰랐죠. 고작해야 TV 화질을 더 좋게 하는 정도.(웃음) 그런데, 어느 날부터 딥러닝과 알파고가 유행처럼 확산하는 거에요. HBM의 상업적 성공을 확신했습니다. HBM을 계속 연구해야겠다는 생각도 그때 한 거죠. 우리 연구실(테라랩)은 현재 전 세계 대학 중 유일하게 HBM을 연구하고 있습니다.”

Q : 모든 연구가 호기심에서 출발했다고요.
A : “고등학교 때부터 궁금한 걸 참지 못했어요. 대학에서도 수업을 빼먹고 도서관에서 살았고요. 학점은 바닥이었습니다. 아마 카이스트 역대 교수 중 최저 학점으로 임용된 교수일 거예요.(웃음) 학생식당에서 줄 서서 밥 먹는 시간이 아까워 도시락 싸 와서 벤치에서 먹는 게 일상이었습니다. 그때는 유일한 낙이 모르는 분야 책을 읽는 거였는데, 한 챕터만 읽은 뒤 혼자 책 한 권을 쓰곤 했어요. 남의 걸 받아들이기보다는 나만의 세계, 내 이론을 만든 거죠.”

김 교수는 학생들과의 토론 시간을 가장 즐긴다. 그는 “매일 지도 학생들의 이름을 공평하게 불러 주기 위해 신경 쓴다”며 “학생들은 내게 선생님 같은 존재”라고 말했다. 김성태 객원기자

그는 서울대에서 전자공학을 전공했는데, 박사로 미국에 가서는 물리학을 전공했다. 이 또한 호기심이 발단이었다. 그는 “도서관 옆자리 학생이 『플라즈마 물리학』이라는 책을 보고 있었는데, 궁금해서 나도 읽게 됐다”며 “그 책을 읽고 인류의 에너지 문제를 해결해 보고 싶다는 생각을 했고, 물리학으로 전공을 바꾸게 됐다”고 말했다. 1994년 대학원을 졸업한 뒤, 당시 등장한 넷스케이프라는 인터넷 브라우저를 보고 반도체를 연구하기 시작했다고 한다. 그는 삼성전자에 입사해 2년간 D램을 개발했다.

Q : 호기심만으로 매번 새로운 분야에 뛰어들긴 어려웠을 텐데요.
A : “분야를 한 번 넘을 때마다 굉장히 어려움을 겪어요. 용어조차 생소하니까요. 그래서 처음엔 학부 1~2학년 심정으로 공부합니다. 무조건 다 외워버려요. 그게 5~10년 지나면 지식이 되고, 어느 순간 희열을 느끼는 정점이 오더라고요. 마치 아무도 모르는 곳에서 금광을 찾는 기분이랄까요. 정점을 찍으면 심심해져서 또 새로운 분야를 찾는 겁니다. 사실 지금은 HBM에 살짝 흥미를 잃은 상태이긴 합니다. 나만 알아야 재밌는데, 지금은 전 국민이 HBM에 대해 알고 있잖아요.(웃음) 요즘 저는 엔비디아가 눈독 들이고 있는 단백질과 관련된 생물학 공부를 하고 있습니다.”

Q : 논문 안 읽고, ‘신기(神氣)’로 예측하는 교수로도 유명합니다.
A : “HBM·AI 반도체 시대를 예측해서 그런 말을 종종 듣는데, 생각의 방식을 바꿔서 그런 것 같습니다. 지금 트럼프나 샘 올트먼, 삼성전자, 월스트리트는 무슨 생각을 하는지 궁금해요. 그러니 그들의 시각에서 세상을 바라보는 거죠. 그런 고민 속에서 제가 할 일을 찾습니다. 매일 새벽 3~4시에 일어나서 출근할 때까지 이런 생각만 하다 보니 타율이 높아졌다고 생각해요. 이런 생각을 하다 보면 갑자기 아이디어가 떠오를 때가 있어요. 그럴 때는 하던 일을 멈추고 메모를 합니다. 학생들에게도 논문을 읽지 말라고 합니다. 발표된 논문은 최소 10년 전에 나온 아이디어거든요.”
김 교수가 삼성전자를 떠나 카이스트에 온 것도 자유로운 환경에서 협력하며 호기심을 발휘하고 싶어서다. 김 교수는 “협력을 좋아하다 보니 자유로운 연구가 가능한 대학이 가장 잘 맞는 일터”라며 “산업체에 남았다면 돈은 많이 벌었겠지만, 카이스트에서 하고 싶은 연구를 하는 지금의 행복지수가 훨씬 높을 것”이라고 말했다. 당시 김 교수와 한 부서에서 근무한 동료가 한진만 삼성전자 신임 파운드리사업부장(사장), 경계현 전 대표이사, 이정배 전 메모리사업부장이다.

김정호 카이스트 전기·전자공학부 교수와 테라랩 제자들. 김성태 객원기자

“한국이 AI 반도체 패권 잡는 것이 목표”
교육자로서 김 교수의 꿈은 한국의 반도체 인재를 세계 무대 곳곳에 진출시키는 것이다. 그는 “TSMC가 세계 반도체 시장을 뒤흔들 수 있었던 건 중국인 네트워크 덕분”이라며 “테라랩 출신 연구자를 중심으로 한국이 AI 반도체 패권을 잡을 수 있도록 하는 것이 나의 목표”라고 말했다. 그의 연구실에서 석·박사 학위를 받은 100여 명 중 약 40%가 애플·구글·오픈AI 등 실리콘밸리에서 HBM 전문가로 활약하고 있다.

Q : 후학 양성에 대한 고민도 깊으실 텐데요.
A : “의대로 인재가 많이 쏠린다고 하잖아요. 하지만 한 가지 희망은 있어요. 고등학교 때 공부 잘하던 친구가 연구도 잘하진 않더라고요. 내신이 좋고 학점이 좋으면 정답 맞히는 건 잘하는데, 도전은 잘 못 해요. 그래서 저도 다양한 학생을 뽑아요. 길러보니까 학점 3.3 정도가 제일 잘하더라고요. 창조적이고 도전적인 학생이 아직은 많습니다. 교육 시스템도 이런 학생을 길러낼 수 있는 방향으로 가야 해요. 암기식 교육으론 안 돼요. 소통하고 협력하는 교육을 받은 인재만 그렇게 자랄 수 있습니다. 지금처럼 대학 입시에 모든 걸 걸면 우리 미래가 위험합니다.”

오유진 기자 oh.yoojin@joongang.co.kr