엔비디아 뚫은 ‘삼성 HBM4’…비결은 ‘불량 제로’

‘레드광’ 중심 새 모니터링 툴 개발
공정 중 오류 등 불량률 대폭 개선
파운드리·로직·패키징 등 역량 결집

황상준(왼쪽부터) 삼성전자 메모리개발담당 부사장, 젠슨 황 엔비디아 최고경영자(CEO), 한진만 삼성전자 파운드리 사업부장 사장이 지난달 16일(현지시간) 미국 새너제이에서 열린 엔비디아 'GTC 2026' 삼성전자 부스에서 기념 촬영을 하고 있다. 삼성전자 제공

삼성전자가 6세대 고대역폭메모리(HBM4)를 세계 최초로 양산하고, 뒤쳐졌다는 평가를 받던 HBM 시장에서 반전을 일으킨 데에는 '불량 제로'를 위한 계측 신기술 개발이 있었다. 이러한 품질 경영은 최대 인공지능(AI) 칩 수요처인 엔비디아를 뚫는 배경이 됐다.

삼성전자는 12일 자사 뉴스룸에 HBM 계측 신기술과 이를 개발한 김주우 계측 명장을 집중 조명했다. 계측은 제조 공정에서 품질을 검사·제어하는 과정을 말한다. 오차·불량을 줄여 성능과 생산성을 높이는 핵심 작업이다.

김 명장은 올해 1월 HBM 경쟁력 확보를 위한 계측 기술 개발 공로를 인정받아 명장에 선정됐다. HBM 기술 경쟁에서 분위기를 바꾼 것은 미세한 차이를 보는 눈, 즉 계측이 배경이었다는 설명이다.

그는 적외선과 가장 가까운 영역의 파장을 가진 레드광으로 새로운 모니터링 툴을 만들었다. 이를 토대로 불량률을 크게 개선했고 고객사의 기준을 웃도는 품질을 얻을 수 있었다고 자평했다.

삼성전자가 개발한 고대역폭메모리(HBM) 새 모니터링 툴 이미지. 삼성전자 뉴스룸

삼성전자는 지난 2월 HBM4 양산을 공식화하면서도 '품질'과 '수율'을 부각한 바 있다.

김 명장은 "계측의 역할은 보는 눈이다. 오차·오류 등을 보이게 끔만 해주면 불량률 등을 개선할 수 있다"며 "(HBM의 경우)웨이퍼에 수백개의 칩이 있는데, 자르는 과정에서 모서리가 깨져 나간다. 인팹(설비 내부)에서 모니터링할 수 있는 방법이 없었다"고 말했다.

이어 "적외선 영역을 사용하는 것이 가장 좋지만, 레졸루션(화질)이 떨어진다. 적외선 생성장치(IR)에 근접한 광원을 활용해야겠다고 생각했다"며 "IR 광원이나 레드광 등 분리돼 있는 파장으로 스캔하면서 불량 여부를 모니터링 할 수 있는지 가능성을 확인했다. 새벽 두시에 가능하다는 결과를 받고 데이터를 정리해 적용했다"고 회상했다.

삼성전자는 5세대 HBM까지는 시장 주도권을 놓쳤다는 지적을 받아왔다. 하지만 지난 2월 세계 최초로 HBM4 양산을 발표한 데 이어 지난달엔 엔비디아, AMD 등 주요 AI 반도체 업체 공급계약을 따내며 반등에 성공했다.

회사는 계측 신기술과 함께 HBM4의 베이스다이(HBM 가장 아래 탑재되는 핵심 부품)에 자사 파운드리(반도체 위탁생산)를 적용한 것을 핵심 경쟁력으로 꼽았다.

김주우 삼성전자 계측 명장. 삼성전자 뉴스룸

삼성전자는 올 하반기 7세대 HBM4E 샘플을 공개할 예정으로, 메모리와 자체 파운드리, 로직 설계, 첨단 패키징 기술 등 회사 역량을 총 망라한 경쟁력을 선보일 것으로 전해졌다.

시장조사업체 트렌드포스는 지난 2월 보고서에서 엔비디아에 '메모리 빅3'가 모두 공급망에 포함될 것으로 보면서 삼성전자에 대해서는 "검증 진행 상황에서 선두를 달리고 있다"고 평가하기도 했다.

회사는 이 같은 HBM 경쟁력 확보에 힘입어 D램 시장에서도 SK하이닉스에 뺏겼던 1위 자리를 탈환했다. 시장조사업체 카운터포인트리서치에 따르면 삼성전자는 작년 4분기 D램 점유율이 36%로 전 분기보다 4%포인트 상승하며 1위 자리를 재탈환했다.

장우진 기자 jwj17@dt.co.kr