“다이!!, 1a 1b 1c? 이 외계어 도대체 뭐야”…HBM 용어 한 번에 끝 [위클리반도체]

반도체 용어, 주가 출렁일 때 핵심
반도체 용어, 이제는 쉽게 이해하자

오늘날 대장주를 꼽으라면 엔비디아인데요. 무려 시가총액 2위에 올랐습니다. 모든 반도체 기업은 엔비디아를 향합니다. 엔비디아에 제품을 공급하는 기업 역시 수익과 주가가 함께 오르기 때문입니다. 예를 들어 한국의 SK하이닉스와 삼성전자는 AI 칩에서는 빼놓을 수 없는 고대역폭메모리인 HBM(High Bandwidth Memory)을 개발하고 있는데요. HBM 납품 소식이나 테스트 소식, 개발 소식에 따라 주가가 출렁거립니다.

그만큼 HBM 뉴스가 나오면 이를 해석하는 능력이 중요합니다. 그래서 오늘은 HBM을 둘러싼 용어들을 한번에 정리하겠습니다. HBM(High Bandwidth Memory)은 고대역폭 메모리로, 주로 고성능 컴퓨팅, 서버, 그래픽 처리 장치(GPU)에서 사용됩니다. HBM은 기존 디램보다 훨씬 높은 대역폭을 제공하여 데이터를 빠르게 전송할 수 있게 해줍니다. 그 결과, 처리해야 할 데이터가 많거나, 높은 처리 성능이 요구되는 어플리케이션에서 효율성과 성능이 크게 향상됩니다.

HBM 몇단 까지 쌓아 올릴 수 있을까

SK하이닉스가 개발한 HBM3E. 36GB(기가바이트)를 구현한 HBM3E 12단 신제품

우리가 아는 디램(DRAM·Dynamic Random Access Memory)은 동적 랜덤 액세스 메모리입니다. 오늘날 컴퓨터 시스템에서 가장 흔히 사용되는 유형의 메모리인데요. 데이터와 명령어를 일시적으로 저장하는 용도로 사용되며, 연산장치가 빠르게 접근하여 처리할 수 있도록 해줍니다. 하지만 인공지능 시대를 맞아 한계에 직면했습니다. 대규모 언어 모델이 등장하면서 계산해야 할 데이터양이 폭발적으로 늘었기 때문입니다. 종전 디램만으로는 메모리 해결이 어려웠습니다. 그래서 2010년대 등장한 것이 HBM입니다. AI 연산은 막대한 양의 데이터를 빠르게 처리해야 하며, HBM은 기존 메모리보다 훨씬 높은 대역폭을 제공합니다. 대역폭은 데이터가 전송되는 속도 또는 양을 측정하는 용어인데요. 특히 네트워킹, 컴퓨팅, 통신 분야에서 중요한 개념입니다. 대역폭은 일반적으로 초당 전송할 수 있는 데이터의 양으로 표현되는데, 이는 비트 단위로 측정됩니다. 예를 들어 Mbps, Gbps가 대표적입니다. 대역폭이 높다는 것은 초당 전송할 수 있는 데이터양이 많다는 것을 뜻합니다.

반도체 기업들이 사용하는 용어 중 반드시 알아야 할 것이 하나 더 있습니다. 바로 1a, 1b, 1c와 같은 용어입니다. HBM은 디램을 층층이 쌓아 올리고 연결한 반도체입니다. 미세한 패턴 공정 경쟁이 한계에 도달하자 위로 쌓기 시작한 것인데요. 그래도 여전히 미세 공정 경쟁이 치열합니다. 우선 나노미터(㎚)를 알아야 합니다. 나노미터는 길이를 나타내는 단위인데요. 1㎚는 10억분의 1m로 머리카락 굵기의 10만분의 1 수준을 가리킵니다. 당연히 미세하면 미세할수록 한 반도체 위에 많은 패턴을 그릴 수 있습니다. 50나노미터는 2000년대 중반에 개발됐는데요. 이후 2009년 40나노, 2011년 30나노, 2014년 20나노에 접어들었습니다. 하지만 현재는 10나노대 경쟁 중입니다. 20나노미터 이전까지는 특별히 용어가 없었습니다. 일반적으로 “20나노 개발”이라고 표현했습니다.

10나노 미세 선폭 한계에 부딪히다

엔비디아 블랙웰 GPU 아키텍처

하지만 20나노 미터 대부터 용어가 바뀝니다. 20나노대 후반은 2x, 중반은 2y, 초반은 2z로 표기합니다. xyz로 갈수록 선폭이 미세해지는 것을 뜻합니다. 하지만 10나노대로 접어들면서 반도체 업계는 고민이 커졌습니다. 개발을 3단계로 만 할 수 없었기 때문입니다. 그래서 또 다른 용어가 등장했습니다. 바로 abc입니다. 10나노대를 총 6개 구간으로 구분하고, 선폭이 미세해질수록 1x,1y,1z,1a,1b,1c라고 표기한 것입니다.

만약에 한 반도체 기업이 “이번에 만든 반도체는 1d급이다”고 설명한다면, 10나노대 극초반 반도체임을 알 수 있습니다. 이건 더 무한히 확장할 수 있습니다. 1d, 1e도 가능한 것이죠. 1b가 12나노급이기 때문에 1c는 11나노, 1d는 10.5나노, 1e는 약 10.25나노 정도 될 겁니다. 물론 양산에는 시간이 걸립니다. 2024년 9월 SK하이닉스는 “10나노급 6세대(1c) 미세공정을 적용한 16Gb(기가비트) DDR5 D램을 개발하는 데 성공했다”고 밝혔는데요. 앞서 말씀드린 대로 10나노대 D램부터 세대별로 알파벳 기호를 붙여 호칭하고 있습니다. 1x(1세대), 1y(2세대), 1z(3세대), 1a(4세대), 1b(5세대)에 이어 1c는 6세대 기술을 개발했다는 뜻입니다. HBM에도 적용하겠다고 밝혔으니, 가격 경쟁력이 높아진다는 뜻입니다. 나노대가 작다는 것은 두 가지를 상징합니다. 데이터 전송 속도가 더 빨라지고, 가격 경쟁력이 높아지는 것을 가리킵니다. 하지만 이게 끝은 아닙니다. 설계 기술을 개발해야 하고 생산 설비를 변경하는 이른바 ‘마이그레이션’ 작업을 해야 합니다. 또 양산에서 정상 비중을 가리키는 수율을 높이는 작업을 해야 합니다.

다이는 한 개의 반도체 층

삼성전자 HBM3 아이스볼트

더군다나 디램 선폭만 줄인다고 해서 HBM의 수준이 높아지는 것은 아닙니다. HBM은 손톱 보다 더 작은 단층 반도체를 8개나 12개로 쌓아 올린 칩 구조물입니다. 한 개 칩을 ‘다이(die)’라고 부릅니다. 다이는 ‘틀·금형(金型)’이라는 뜻을 가리킵니다. 그러면 베이스 다이는 무엇일까요? 네 맞습니다. 1층 반도체입니다. 디램 다이를 하나씩 쌓아 올리면 HBM이 완성됩니다.

이게 끝은 아닙니다. 8개~12개 다이는 서로 물리적으로 연결돼 있어야 합니다. HBM3E에는 총 1024개에 달하는 구멍이 있고 해당 구멍을 통해 전력 등이 연결됩니다. 이 과정을 패키징이라고 부릅니다. 또 구멍을 뚫고 전기적 연결을 위해 사용하는 기술을 TSV(Trough-Silicon Via)라고 합니다. TSV는 실리콘 웨이퍼를 관통하는 구멍을 말하며, 이 구멍을 통해 수직으로 칩들을 연결합니다. 이 기술은 메모리 칩들을 수직으로 쌓아 올려 고대역폭을 실현할 수 있도록 도와주며, 칩 간의 물리적 거리를 줄여 신호 지연을 최소화하고 전력 효율을 개선하는 데 중요한 역할을 합니다. HBM4는 약 2048개 구멍이 있을 것으로 전망됩니다.

빈 공간을 채우는 TSF와 MR-MUF

연결만 해서도 안 됩니다. 다이 스택 구조에서 각 층 사이의 빈 곳은 실제로 열 관리와 기계적 안정성을 위해 적절히 처리해야 하는 부분인데요. 공간은 성능 저하나 구조적 문제를 일으킬 수 있기 때문에 특별한 방법으로 채워집니다. 채우는 방식 중 대표적인 게 두 개 있습니다. 먼저 TSF(Thermal Solution Film)입니다. 해당 방식은 열전도성 필름을 사용해, 다이 사이의 공간을 메우는 방식인데요. 해당 필름은 열을 효율적으로 분산시키는 역할을 하며, 동시에 다이 간의 기계적 안정성을 높이는 데 도움을 줍니다. 좀 더 진일보한 방식은 MR-MUF(Mass Reflow-Molded Underfill)입니다. 반도체 칩을 쌓아 올린 후 칩 사이의 공간에 액체 상태의 보호 물질을 주입하고 경화시키는 공정입니다. 열 발산 능력이 탁월하고, 기존 방식에 비해 생산성을 약 3배 향상해주는 것으로 알려졌습니다.

이렇게 완성된 HBM은 오늘날 1, 2, 3까지 있습니다. 다이수를 늘리면 용량이 늘어나고, 선폭회도도를 미세하게 하면 속도가 빨라지는데요. 버전이 올라갈수록 더 빠르게 더 많이 데이터를 보내고 저장할 수 있습니다. HBM1은 스택당 대역폭이 128 GB/s에 불과했지만, HBM2는 256 GB/s, HBM3는 819 GB/s로 커졌습니다. 버전에 따라 ’E’가 붙기도 하는데요. E는 확장된(Extended)’의 약칭으로 세대가 바뀔 정도는 아니지만 진일보했다는 뜻입니다.