"한국 왜이리 겸손해요?" 젠슨황 놀래킨 삼성·SK 기술

HBM은 기존 메모리 반도체 D램을 ‘햄버거’ 빵처럼 겹겹이 쌓아 만든 제품이다. 미드저니AI로 생성한 이미지.

━

버거 떠올리면 이해 쉬운 ‘반도체 게임체인저’

■ 경제+

「 “HBM은 정말 기적 같은 기술이다. 한국 기업이 너무 겸손해서 그런지 여러분이 HBM을 잘못 이해하고 있는 것 같다.” 젠슨 황 엔비디아 창업자·최고경영자(CEO)는 지난 3월 열린 엔비디아 개발자 대회에서 한국 기자에게 이렇게 말했다. 그가 ‘미라클’로 꼽은 HBM, 즉 고대역폭메모리 반도체는 엔비디아가 만드는 그래픽처리장치(GPU)에서 핵심 부품 역할을 하는 칩이다. 전문가는 HBM에 한국이 반도체 가치사슬 최상단에 오를 기회가 있다고 본다. HBM 초기 개발을 주도했던 ‘HBM의 아버지’ 김정호 KAIST 전기전자공학부 교수의 자문을 토대로, 차세대 HBM이 반도체 시장을 어떻게 재편할 것인지 분석했다.
」

HBM 기본 개념부터 짚고 가자. HBM을 만들려면 수백 개의 고난도 공정을 거쳐야 한다. 499가지 공정을 통과했어도 한 번 삐끗하면, 끝이다. HBM이 ‘공정의 종합예술’로 불리는 이유다. 3가지 핵심 키워드만 알면 HBM 관련 기사의 대부분은 이해할 수 있다. 바로 D램, TSV, 본딩이다.

━

1. AI 시대 열리며 GPU 과부하…‘뇌 갖춘’ 메모리 존재감 커져

기본적으로 HBM은 기존 메모리 반도체 D램을 ‘햄버거’ 빵처럼 겹겹이 쌓아 만든 제품이다. 데이터 처리속도와 용량을 높이기 위해서다. D램을 8개 쌓으면 8단 HBM, 12개 쌓으면 12단 HBM이다.

신재민 기자

누가 어떻게 만들었냐에 따라 빵 맛이 다르듯, D램도 제조사와 공정 세대에 따라 성능이 달라진다. 예를 들어 최신형 HBM3E를 만들기 위해 SK하이닉스·마이크론은 5세대(1b) 공정 D램을 기본 재료로 쓰지만 삼성전자는 4세대(1a) 공정 D램을 사용한다. 4세대를 쓴다고 뒤처진 것은 아니다. 오히려 삼성은 연내 가장 먼저 6세대(1c) D램을 양산할 계획이다.

칩 2~3개쯤은 전선으로 이어 붙여서 쌓으면 되지만, 8·12개를 쌓으려면 붙이는 기술이 더 정교하고 안전해야 한다. 가령, 2~3층짜리 빌라는 건물 외벽의 계단으로도 오르내릴 수 있지만 4층 이상의 고층 빌딩은 엘리베이터를 설치해야 안전하다. HBM에서 이 엘리베이터 역할을 하는 게 실리콘관통전극(TSV)이다. 수직으로 여러 겹 쌓은 D램에 여러 개의 미세 구멍을 뚫어 데이터 연결통로 역할을 맡기는 것이다.

HBM에는 이런 데이터용 엘리베이터가 1000대 이상 있다. HBM3엔 1024개, HBM4부터는 2048개다. 햄버거는 빵만으론 못 만든다. 패티도 치즈도 넣어야 한다. ‘불맛’도 빠질 수 없다. 이 불맛 비법은 가게마다 다를 수 있다. 우선, 고기·치즈·야채·빵을 각각 요리해 빵 위에 쌓는 방식이 있겠다. 또 다른 방법으론 빵 사이에 차가운 고기·치즈 등을 다 쌓고 이걸 그대로 오븐에 구울 수도 있다. 전자의 방식이 TC NCF, 후자가 MR-MUF다. 빵(D램)을 쌓고 붙여 햄버거(HBM) 를 만드는 과정이라 흔히 본딩(Bonding) 공정이라 부른다.

━

2. ‘버거 쌓는 방식’ 고성능 HBM…삼성·SK 기술력 세계서 으뜸

기존 반도체 업계에선 TC NCF 방식이 주류였다. D램 칩을 범프(일종의 납땜)로 연결한 뒤 그사이를 절연 필름으로 채워 넣는 방식이다. 하지만 HBM 층수가 올라갈수록 D램 칩이 휘거나 손상될 가능성이 크다. 수율(양품 비율)이 대개 여기서 결정 난다.

신재민 기자

그런데 SK하이닉스가 새로운 본딩 기술을 시도했다. 빵과 치즈·고기 등을 다 쌓은 다음 통째로 오븐에 넣듯, 적층한 D램에 열을 가해 한 번에 여러 층을 연결한 뒤 칩과 칩 사이를 채워 작업을 마무리하는 식이다. 이게 MR-MUF다. 칩이 변형될 우려를 크게 낮춘 기술로, SK하이닉스 ‘HBM 신화’의 일등공신이다. 자신감이 붙은 SK하이닉스는 최근 실적발표 후 16단 HBM 제품에도 MR-MUF 방식을 적용한다고 밝혔다. 두 방식은 각각의 장단점이 있다. 업계에선 대체로 SK하이닉스가 앞서있는 것으로 보는 견해가 우세했지만 최근 삼성이 TC NCF 방식으로 12단까지 쌓는데 성공하면서 승부를 다시 원점으로 끌고 갔다.

반도체 업계가 ‘HBM 천하’를 장담하는 데는 이유가 있다. AI 시대 반도체 기술은 ‘대역폭’을 넓히는 쪽으로 진화하고 있다. 자율주행·원격의료 등 상당수 AI 응용 서비스는 지연(Latency)이 발생하면 사람 목숨이 위태로워질 수도 있다. 즉, 데이터 통로인 대역폭을 넓혀 폭발적인 양의 정보를 더 빨리 처리할 수 있어야 AI 서비스가 발전한다. 실제 생성 AI 연산과정에서 HBM은 GPU보다 바쁘게 돌아간다.

신재민 기자

출시 초기만 해도 HBM에 별 기대가 없었다. SK하이닉스 내부에서도 마찬가지였다. 하지만 일반 D램보다 가격이 몇 배 비싸 마진율이 높은 HBM 수요가 폭증하자 HBM은 이익 내는 ‘효자템’으로 자리를 굳혔다. 올 1분기 SK하이닉스는 영업이익 2조8860억 원을 기록했다. 삼성전자 반도체 부문 전체 영업이익(1조9100억원)보다 많다. 증권가에서는 엔비디아에 납품하는 고부가가치 HBM 효과로 본다.

현존하는 모든 컴퓨터 구조는 천재 컴퓨터 공학자 존 폰 노이만(1903~1957)이 1945년 설계한 ‘폰 노이만 아키텍처(구조)’를 따르고 있다. 중앙처리장치(CPU) 등 프로세서가 연산을 맡고, 필요한 데이터는 저장장치인 메모리에서 불러오는 방식이다. 이 구조에선 두뇌에 해당하는 프로세서가 위계 피라미드의 상단을 차지하고, 메모리 칩은 보조에 그친다. 그런데 바로 지금 그 80년 질서가 무너질 조짐이 보이고 있다. AI 서비스 시장이 커지면서 반도체가 처리해야 할 데이터의 양이 폭증하자 메모리 역량이 중요해진 것이다. 프로세서에서 모든 데이터를 한꺼번에 처리하기 힘들어지면서 메모리 칩이 중요한 데이터를 알아서 골라내는 연산 기능까지 관여하자 프로세서와 메모리의 경계는 점점 옅어지고 있다.

━

3. 일체형 HBM·GPU 등장 임박…한국이 ‘반도체 판’ 흔들 수도

차준홍 기자

‘명품 조연’에서 한 발 더 나아가, 아예 메모리가 주인공이 되는 포스트(post) 폰 노이만 시대가 올 거라는 담대한 상상도 제기된다. 연산과 저장 기능이 분리되는 구조가 아닌, 계산도 하고 기억도 하는 실제 인간의 뇌 구조를 모방한 뉴로모픽(Neuromorphic) 반도체로 발전할 것이라는 전망이다. 올해 2~3분기 양산될 5세대 HBM3E의 경우, 여전히 연산 담당인 시스템(로직) 반도체인 GPU 칩 옆에 최대한 가까이 붙이는 방식으로 성능을 내고 있다. 즉, GPU의 주요 연산 기능은 HBM과 여전히 분리되어 있다.

하지만 2025년에 나올 HBM4를 시작으로 GPU의 연산 기능이 메모리 반도체 쪽으로 옮겨온다. GPU 위에 아예 HBM이 올라타는 구조다. 김정호 KAIST 교수는 “비유하자면 기존엔 별개 건물인 아파트(메모리 반도체)와 상가(시스템 반도체)를 지하도로 연결했다면, 마침내 그 둘을 한 건물에 합친 ‘주상복합 반도체 시대’로 첫발을 내딛는 것”이라고 설명했다. 이어 “지금보다 2~3세대 뒤 제품에서 발열 문제 등이 해결된다면 HBM과 GPU가 완전히 붙어 한 몸처럼 작동할 것”이라 말했다. HBM4는 메모리-시스템 반도체 간 경계가 사라진 첫 번째 칩으로 IT 역사에 기록될 가능성이 크다. 반도체 업계에선 엔비디아 같은 팹리스(설계전문) 업체가 쥔 반도체 패권이 메모리 업체로 넘어가는 메가톤급 파장이 일어날 수도 있다고 본다.

■ 인류 최고의 발명품 중 하나는 ‘기업’입니다. 기업은 시장과 정부의 한계에 도전하고 기술을 혁신하며 인류 역사와 함께 진화해 왔습니다. ‘기업’을 움직이는 진정한 힘이 무엇인지, 더중플이 더 깊게 캐보겠습니다.

「

경제+

보잉의 추락, 티켓값 올린다금기 손댄 그들이 부를 재앙
https://www.joongang.co.kr/article/25245910

한국형 주4일제 해본 그들 “놀금 위해 9일 갈아 넣는다”
https://www.joongang.co.kr/article/25241058

팀쿡이 글 쓰면 주가 올랐다‘회장님 SNS’에도 금기 있다
https://www.joongang.co.kr/article/25239439

월급 14억, 성과급 현금 50억삼성전자 CEO 연봉 계산법
https://www.joongang.co.kr/article/25242674
」

이희권·박해리 기자 lee.heekwon@joongang.co.kr