SK하이닉스 ‘세계 1위’ HBM의 비결…9년 전 엔비디아 러브콜에서 시작됐다

[동아경제가 만난 사람] 심대용 동아대 전자공학과 교수
SK하이닉스 임원 시절 HBM 초기 제품 담당
“삼성 못잡아 고민, 과감한 공정 혁신으로 극복”
“차세대 HBM 시대, 대만 TSMC 종속은 우려,
삼성-SK-소부장 손잡고 K생태계 키워야”

“삼성만큼만 뽑아 봐라”

2015년 엔비디아가 SK하이닉스에 요구한 주문이다. 엔비디아가 인공지능(AI) 가속기 개발에 갓 뛰어들며 자사 그래픽처리장치(GPU)를 뒷받침할 고성능 메모리가 필요한 시기였다. 엔비디아는 고대역폭메모리(HBM)만이 답이라는 판단을 내렸다. 문제는 메모리업계에서 봤을 때 사업성이 전혀 가늠이 안 됐다는 점이다. 삼성전자, SK하이닉스 모두 HBM이 전체 D램 생산량의 1%도 채 안 되던 시절이었다.

SK하이닉스는 ‘만년 메모리 2등’이란 딱지를 뗄 절호의 기회라고 보고 개발에 공격적으로 뛰어들었다.

“하지만 뜻대로 되지 않았습니다. 삼성전자 HBM의 속도는 당시 엔비디아가 요구하던 2.4gbps(초당 24억비트)를 너끈히 충족했는데 SK하이닉스의 HBM은 별 짓을 다해도 그 절반 아래인 1.0gbps도 채 안 나오는 거예요. 그렇게 HBM 담당 임원 여럿이 갈렸습니다.”

2일 동아일보 사옥에서 만난 심대용 동아대 전자공학과 교수는 당시 상황을 이같이 기억했다. SK하이닉스 부사장 출신의 심 교수는 2016년 말 당시 ‘임원들의 무덤’으로 불리던 HBM 사업 담당 상무로 발령이 났다. 박사학위를 딴 지 얼마 안 된 시기여서 “팔팔한 심 박사가 해결해 보라”고 보낸 것이다.

●“속도·전력·발열 삼박자 잡자 날았다”

심 교수가 고민한 끝에 고안한 해결책은 이전과 전혀 다른 새로운 접근법이었다. HBM에서 데이터가 오가는 구멍을 한 번 더 뚫자는 것이었다. HBM은 데이터 처리에 특화된 D램 8~12개를 수직으로 쌓아서 속도를 극대화한 메모리다. 이때 실리콘관통전극(TSV)이라는 기술을 활용해 D램들을 연결한다. 심 교수가 내놓은 방법은 D램 간 구멍을 뚫는 TSV를 두 배로 적용해 연결통로도 두 배로 확장하자는 것이었다.

효과는 확실했다. 속도뿐만 아니라 전력효율도 크게 개선시켰다. 기존에는 전력이 오갈 때 병목현상이 발생하며 일시적으로 HBM 성능을 떨어트리는 부작용이 있었는데 통로가 두 배가 되니 이러한 고민도 해결된 것이다.

심 교수는 “여기에 또 하나 묘수가 있었는데 바로 칩과 칩 사이에 ‘마이크로 범프’라는 돌기를 만들어 열이 빠져나갈 통로를 여는 것”이라며 “일종의 환풍구 역할을 하면서 덕분에 발열 제어 능력이 경쟁사보다 훨씬 우수해졌다. 속도, 전력효율, 발열 삼박자를 갖추면서 SK하이닉스의 HBM 경쟁력이 획기적으로 향상된 것”이라고 했다.

문제는 양산 효율이었다. 심 교수는 “칩에 구멍을 더 뚫어야 하다 보니 전체 면적도 커지게 됐다. 회사 입장에선 웨이퍼 한 장으로 최대한 칩을 많이 찍어야 비용이 절약되므로 면적이 10%만 커져도 용납하기 어려운 일이었다”고 회상했다.

AI는 먼 미래 같았기에 내부 반대도 거셌다. 하지만 회사는 위험을 감수하기로 하고 TSV 두 배 적용을 결정했다. SK하이닉스는 그렇게 HBM 2세대인 HBM2에서 확실한 인정을 받으며 두각을 나타냈고 3세대인 HBM2E부터 시장 확대에 본격 속도를 내기 시작했다.

SK하이닉스가 이때 다진 HBM 경쟁력은 6년 뒤 빛을 발했다. 2022년 말 코로나19 이후 갑작스러운 과잉재고와 경기침체로 반도체 업계가 불황일 때다. 당시 챗GPT의 등장과 함께 AI 시장이 본격적으로 열린 것이다. 심 교수는 “엔비디아를 중심으로 AI칩 붐이 일었고, HBM을 공급할 수 있는 곳은 SK하이닉스뿐이었다”고 했다.

심대용 동아대 전자공학과 교수가 2020년 SK하이닉스 임원 시절 구성원들로부터 받은 상패. SK하이닉스가 고대역폭메모리(HBM)에서 경쟁력을 확보하는 데 큰 공헌을 했다는 감사의 의미를 담아 수여했다. 심대용 교수 제공

●“TSMC 종속 위험, 한국 생태계로 접근해야”

심 교수는 2021년 말 부사장직을 끝으로 회사를 나와 현재 대학에서 후임 양성에 힘을 쏟고 있다. 그는 “HBM 6세대인 HBM4부터는 삼성전자와 SK하이닉스를 중심으로 국내 소부장(소재, 부품, 장비) 업체들과 함께 협력하는 ‘K생태계’를 키워야 한다”고 역설했다. HBM4부터는 반도체 가장 밑단에 있는 베이스다이(GPU와 연결돼 데이터를 주고받는 집적회로) 설계가 달라지며 이전보다 훨씬 더 수준 높은 미세공정이 요구된다. 하지만 SK하이닉스는 현재 여기에 필요한 10나노 이하 미세공정 기술이 없기 때문에 대만 파운드리(반도체 위탁생산) 업체 TSMC와 협력을 하고 있다.

심 교수는 “SK하이닉스로서도 불가피한 결정이라는 것은 이해하지만 시간이 지나며 TSMC에 대한 의존도가 심화되면 우리가 반대로 종속될 위험이 있다”고 지적했다. 이어 “삼성과 SK는 HBM에서는 경쟁자이지만 파운드리에서는 협력할 수 있기 때문에 묘안을 찾아야 한다”며 “여기에 대규모 투자도 필요한 만큼 정부가 적극 지원해 생태계 구축에 힘써야 한다”고 강조했다.

박현익 기자 beepark@donga.com