젠슨, 삼성이 왜 HBM을 새로 설계해야 하죠?

젠슨 황이 삼성한테 "설계를 새로 해야 한다(Have to engineer a new design)"고 했습니다. CES(Consumer Electronics Show)라는 축제가 시작됐는데, 찬물을 끼얹었네요. 젠슨 때문에 삼성은 고개를 숙여야 합니다. '2025년을 삼성이 왜 이렇게 시작해야 할까, 정말 그럴까?'를 탐구해 보겠습니다.

■ 이제 삼성은 D램 1등이 아닙니다

매출은 여전히 1등입니다. 많이 생산하니까요. 그러나 가장 결정적인 두 측면에서 1등이 아닙니다.

1. 삼성이 최신 D램을 가장 먼저 만드냐?
2. 삼성이 가장 비싼 D램을 잘 만드냐?

우선 2번은 HBM입니다. 놀랍지 않습니다. 2024년 삼성은 이 HBM 때문에 악몽 같은 한 해를 보냈습니다. 엔비디아 최신 GPU에 들어가는 5세대 HBM(HBM3E) 납품에 끝내 실패했습니다. 연초부터 금방 납품한다고 했는데 1년 내내 못했습니다. 엔비디아의 테스트를 통과조차 하지 못했죠.

그리고 2025년 시작을 '설계를 새로 해야 한다'는 젠슨 황의 충고로 합니다. "내일이 수요일인 것을 확신하는 것처럼 삼성이 할 수 있다는 것을 확신한다"는 격려를 하긴 했습니다만, 30년 넘도록 D램에서 1등 해온 삼성에 이게 위로가 될 리 없습니다. 가장 부가가치 높은 D램인 HBM을 만들지 못한다는 사실은 변하지 않으니까요. 2번은 그렇습니다.

1번에 놀라시는 분들이 좀 있겠네요. 그런데 놀랄 일도, 새로운 일도 아닙니다. 현재 D램 가운데 가장 선단 공정은 1c 공정입니다. 10나노대 6세대입니다. SK하이닉스가 가장 먼저 개발해서 올해 양산합니다. 삼성도 양산한다고는 했는데, 시험 생산에 수율 확보까지 마친 하이닉스와는 달리 구체적인 소식은 없습니다. 격차가 있습니다.

사실 삼성이 최신 D램 개발 경쟁에서 1등을 한 것은 2019년이 마지막입니다. 그 뒤로 6년간 세계 최초는 없습니다. 미국의 마이크론과 SK하이닉스가 앞서나가고 있습니다.

■ HBM 설계를 새로 해야 한다는 건 무슨 얘기예요?

이미 영업이익은 뒤집혔습니다. 지난해 3분기 이후 SK하이닉스가 영업이익에서는 삼성을 앞서고 있습니다. 일반 D램보다 4~5배 비싼 HBM에서의 격차 때문입니다. HBM은 엔비디아 최신 블랙웰 GPU의 원가에서 60%를 차지할 정도로 비쌉니다. 그러니 범용 D램 아무리 팔아봐야 HBM에서 계속 뒤지면 미래는 없습니다. 이 차이가 지속되면 몇 년 안에 매출 1등도 뺏길 수 있습니다.

그러니 젠슨 황의 말이 무서운 겁니다. '설계를 새로 해야 한다'는 말을 곱씹을수록 그렇습니다. 우선 HBM 패키징 차원에서 먼저 생각해 보죠.

① 패키징
처음에는 일본 나믹스사가 생산하고 SK하이닉스가 독점 공급받는 소재에 비밀이 있다는 얘기가 나왔습니다. 삼성이 HBM에서 돌파구를 마련하지 못한 이유로 특정 소재의 유무가 유력하게 거론된 겁니다. D램의 구조를 만드는 전 공정(Front-End Process)보다는 만든 개별 D램 다이를 쌓는 후공정(Back-End Process)과 관련된 이야기입니다. 만들어진 D램을 겹겹이 쌓고 붙이는 ‘패키징 Packaging’ 방법에 비법이 있다는 말이죠.

SK하이닉스는 MR-MUF라는 방식을 씁니다. 이 방식의 특징은 칩과 칩 사이 공간을 고정시켜 보호하고 열을 빼내는 소재입니다. 고정하는 물질(EMC)을 일본 나믹스사로부터 독점 공급 받는데, 방열 성능이 우수합니다. 하이닉스는 개발 협력 과정에서 이 소재를 독점 공급받기로 계약합니다.

삼성은 이 소재를 살 수 없으니 TC-NCF5라는 다른 패키징 방법을 씁니다. 열과 압력을 동시에 가합니다. 이 방식이 발열 이슈에 취약하다는 얘기가 나왔습니다. 일본 나믹스사와 SK하이닉스 사이의 독점 계약이 풀린 뒤, EMC를 공급받아야 만들 수 있다는 얘기까지 나왔었죠.

다만 삼성과 같은 방식으로 HBM을 만든 미국의 마이크론은 성공했습니다. 젠슨 황은 2024년 11월 실적 발표 때 블랙웰 공급망 파트너로 메모리 부문에서 SK하이닉스에 이어 마이크론도 언급합니다. 삼성보다 먼저 엔비디아의 최신 칩 블랙웰의 협력사가 됐습니다.

그러니 이 소재, 이 패키징 방식 만으로 설명하기는 힘듭니다. 게다가 젠슨은 '설계 design'라고 말했어요. 칩 안으로 들어가봐야 합니다.

② D램
삼성과SK하이닉스가 만드는 5세대 HBM은 이름은 HBM3E로 같지만 다른 칩입니다. 무엇보다, D램의 세대가 다릅니다. HBM은 D램 여럿을 쌓은 칩이죠. 8단, 12단, 16단은 몇 개를 쌓았느냐를 의미합니다. 8단은 8개, 16단은 16개를 쌓은 겁니다.

그런데 이 쌓는 D램이 다릅니다. 비유하자면 삼성은 하이닉스와 다른 벽돌(D램)을 쌓아서, 같은 모양의 빌딩(HBM3E)을 짓는 겁니다.

하이닉스 벽돌이 더 좋은 벽돌입니다. 10나노 대 5세대(1b)입니다. 삼성은 한세대 뒤처진 4세대(1a) 벽돌을 씁니다. 세대가 다르면 미세화 수준이 다릅니다. 당연히 5세대가 더 미세한 공정을 사용합니다. 더 작고 빠르고 전력 효율이 높습니다. 따라서 세대가 뒤처쳤다면 기본적으로 경쟁이 불가능합니다.

그래도 4세대를 쓸 수밖에 없었던 이유, 삼성은 경쟁자들보다 미세화에 더 큰 어려움을 겪고 있기 때문입니다. 5세대 D램 수율이 낮았습니다. 한 전문지 보도를 보면, 1b D램의 수율은 지난해 3분기 들어서야 평균 60%를 넘어선 것으로 전해집니다. 90%는 되어야 할 수율이 생산을 시작한 뒤 1년 넘도록 60% 이하에 있었던 겁니다. (출처 : '절치부심' 삼성 1b D램 수율 향상 본궤도...HBM 로드맵엔 없어, ZDNET Korea, 2024.10.1)

이건 일반 D램 이야기이고, HBM은 또 다릅니다. HBM용 벽돌(D램)은 물리적으로 일반 벽돌과 다릅니다. 크기가 2배 가까이 큽니다. 벽돌을 쌓은 뒤에 구멍을 뚫어 이 길로 데이터가 다니게 하다보니, 연결구조가 추가되어야 합니다. 그게 실리콘을 관통하는 전극(TSV)인데, 이 때문에 물리적으로 큽니다.

또 더 까다롭게 골라냅니다. 안 그래도 D램은 열이 발생하는데, 여러 개를 쌓으면 그 열이 빠져나갈 구멍이 없어 열에 더 취약해집니다. 그만큼 각각의 벽돌은 일반벽돌보다 더 안정적이고 발열도 적어야 합니다. 선별 과정이 더 까다로울 수밖에 없습니다.

삼성은 아예 더 까다롭게 골라내야 하는 이 HBM용 5세대 벽돌(1b) 자체가 없습니다. 5세대 일반 벽돌을 만드는 데 어려움을 겪다 보니 HBM용을 못 만들었을 수도 있고, 설계 구조 자체가 HBM용으로 만들 수 없는 벽돌이어서일 수도 있습니다. 판단 미스일 가능성도 있습니다. 개발 계획을 발표할 때 4세대(1a)면 충분하다고 생각해서 거기 맞춰 개발하다 보니 결과적으로 뒤처진 것이죠. 어떤 것이 진짜 이유이건, 삼성은 5세대 HBM 벽돌이 없어서 못 썼습니다.

젠슨이 '설계'를 새로 해야 한다고 했으니, 이쪽 설명이 더 맞을 가능성이 높아 보입니다.

■ 설계를 새로 한다? 사실 무시무시한 일입니다

중앙일보가 지난해 11월 보도한 내용을 보면, 삼성의 설계와 개발 역량에 근본적인 물음이 제기되고 있습니다. 4세대 1a 공정 때부터 수율이 높지 않은 상태에서 EUV 장비를 더 많이 쓰는 방식으로 땜질 처방했다고 표현되어 있습니다. ( 출처: [단독] 5년째 멈춘 '세계 최초'…삼성 "D램 전면 재검토하라" 중앙일보 2024.11.6)

제가 접촉한 중간 간부급 내부자는 10나노 첫 번째 1x 공정부터 설계 문제가 있었다고 말했습니다. 당시 게이트 산화막 공정 등에서 양산에 문제가 있었는데, 이 문제가 설계에서 출발했을 수 있다는 것이죠. 온라인에는 2019년에 공정 결함으로 서버용 D램 반도체에서 8조 원대 리콜이 발생했다는 논란과 관련한 기사도 있습니다. "문제가 무엇이었는지 불분명하다. 다만 분명한 것은 규명을 제대로 하지 않고, 장비를 고도화하는 식으로 넘어갔고, 그래서 수율의 삼성이 수율로 어려움을 겪는다"는 게 이 내부자의 설명입니다.

만약 문제의 뿌리가 이렇게 깊다면, 그래서 정말 설계를 바꿔 해결해야 한다면 문제는 심각합니다. 반도체 웨이퍼용 마스크 설계를 새로 하는 데 시간이 한참 걸립니다. 문제는 그 뒤죠. 반도체 웨이퍼는 통상 라인에 흘리기 시작한 지 석 달 정도가 지나야 완제품이 됩니다. 단순히 설계를 바꾸고(1~2달), 라인에 흘려서 양산(3달)한 뒤 테스트를 해보는 데만 4~5달이 걸립니다. 이후 본 양산을 새로 시작해야 하고요.

최소 반년의 시간이 필요한데, 이 또한 잘못을 '한 번에 잡는다'고 전제할 때의 시간입니다. 시행착오를 하면 더 오래 걸립니다.

■ 삼성은 그래서 지금 '건너뛰어' 가려 합니다

삼성은 앞으로 HBM4(6세대) 개발은 사실상 건너뛰고 HBM 4E(7세대)로 바로 간다는 전망이 나옵니다. SK하이닉스는 지금 사용하는 1b D램을 한 번 더 사용해 올해 안에 HBM4를 양산하는데, 삼성은 1b는 건너뛰고 1c로 간다는 것이죠. 순조롭다면 올 연말이나 내년 초에 나올 수 있습니다.

문제는 HBM의 벽돌이 되는 D램, 1c D램의 경우 범용 D램조차 아직 양산하지 못하고 있단 점입니다. 따라서 이 전략이 가능할지, 또 시간 내에 달성될지가 불투명합니다. 다만 사력을 다하고있을 것이기 때문에 예단할 필요는 없을 겁니다.

■ 삼성의 잃어버린 10년, 그리고 2025년.

기술적 우위를 잃은 결과는 성장의 정체입니다. 10년 넘게 성장이 정체된 상태입니다. 이 내용은 지난해 <삼성, 잃어버린 10년>이라는 이름의 다큐멘터리로 다뤘습니다.

삼성이 2013년을 정점으로 그 뒤로는 성장하지 못했다는 이야기입니다. 달러를 기준으로 보면 역성장했습니다. 10년간 매년 0.8%씩 작아진 꼴입니다.

이 기간에 경쟁자들은 치고 나갔습니다. 엔비디아는 6배 이상, 애플도 2배, TSMC도 3배 넘게 성장했습니다. SK하이닉스도 2배가 넘게 커졌습니다.

그리고 한 해가 더 흘렀습니다.

1월 8일, 삼성전자의 2024년 잠정 실적이 나왔습니다. 연간 매출은 한화 300조 원입니다. 달러 환산시 2,200억 달러 수준입니다. (지난해 평균환율 달러당 1363원 기준) 여전히 2013년 수준입니다.

SK하이닉스 경우 아직 발표되진 않았지만, 한화 66조 원 수준으로 예상됩니다. 달러 기준으로 환산할 경우, 480억 달러 이상입니다. 2013년의 약 4배입니다.

SK하이닉스가 4배 성장할 동안, 삼성은 제자리걸음 중입니다.

위기의 삼성을 조망하는 연속기사입니다. 다양한 기업과 비교하고, 여러 전문가의 분석을 경청하며 삼성의 현주소를 살핍니다. 구독해 두시면, 1월 한 달 동안 삼성 위기의 이유와 극복의 실마리를 살필 수 있습니다.

① [D램] 젠슨, 삼성이 왜 HBM을 새로 설계해야 하죠?
② [모바일] 애플과 삼성의 격차, 이제는 17배
(추후 계속됩니다)

시사기획창 “삼성, 잃어버린 10년” 유튜브 다시보기
https://youtu.be/W-rzA6GXkwk

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

서영민 기자 (seo0177@gmail.com)