[삼성 반도체vsSK하이닉스]③ 삼성이 ‘파운드리’ 한눈 파는 사이… ‘낸드플래시 콤플렉스’ 극복한 SK하이닉스

도시바와 합작 대신 독자노선 결정… ‘낸드플래시 공룡’ 삼성의 초석
후발주자 SK하이닉스, 2017년 개방화 추진… 핵심인력 영입하고 키옥시아와 기술 협력
파운드리로 눈 돌린 삼성… 낸드플래시 연구개발 능력 약화로
전문가들 “올해 낸드 시장 승부처는 300단 고지 점령”

메모리 반도체 시장에 지각변동이 일어나고 있다. 생성형 인공지능(AI) 열풍으로 모바일, PC, 서버 등 전통적인 수요처를 넘어 AI 프로세서에 최적화한 메모리 수요가 폭발적으로 증가하고 있는 것이다. 과거 ‘소품종 대량양산’ 전략으로 생산성 경쟁에 집중했던 한국 메모리 업계는 달라진 ‘게임의 법칙’을 만나게 됐다. 미세공정 기술뿐만 아니라 미국 빅테크 기업들과의 협업이 새로운 시장을 개척하는 성공의 열쇠가 된 것이다. 조선비즈는 글로벌 메모리 반도체 1·2위 기업인 삼성전자와 SK하이닉스의 경쟁력을 비교 분석하고 향후 시장 판도를 전망해본다.[편집자주]

일러스트=챗GPT 달리3

2001년 8월, 도쿄의 ‘자쿠로’라는 음식점에 모인 삼성전자 경영진은 플래시 메모리 기술의 원조 격인 일본 도시바의 합작사 설립 제안을 놓고 고심했다. 당시는 낸드플래시가 차세대 데이터 저장장치로 상용화되지 않았던 시기였고, 향후 기술의 미래도 불투명했다. 합작사가 안전한 선택이 될 수 있었지만, 삼성전자 수뇌부는 토론 끝에 독자노선을 고집했다. 훗날 이 같은 결단은 삼성전자가 세계적인 낸드플래시 강자로 거듭나게 된 초석이 됐다.

이후 삼성전자는 플래시 메모리 시대를 준비하며 독자적인 연구개발(R&D)에 집중했다. 이듬해 USB 메모리가 전 세계적인 인기를 끌기 시작했고, 테이프·디스크 위주의 음악 재생기기 시장에 플래시 메모리가 적용되면서 수요가 폭발적으로 증가했다. 여기에 애플 아이폰이 낸드플래시를 저장장치로 표준화하면서 시장 트렌드를 간파한 삼성전자는 D램에 이어 낸드플래시 시장의 ‘공룡 기업’으로 성장했다.

하지만 SK하이닉스에겐 낸드플래시가 ‘콤플렉스’ 같은 존재였다. 1990년대부터 R&D 투자로 시장 진출을 준비한 삼성전자와 달리 SK하이닉스가 낸드플래시 사업에 본격적으로 뛰어든 것은 2004년쯤이었다. 사업 진출 이후에도 제품 성능과 생산성, 수율 등의 문제로 시행착오를 겪었다. SK그룹에 편입된 2010년대 초반까지만 해도 SK하이닉스 내부에선 낸드플래시 사업을 계속할지 논란이 있을 정도로 경쟁력이 위태로웠다.

그러던 SK하이닉스의 낸드플래시 사업이 전환점을 맞이한 시기는 바로 2017년이다. SK하이닉스는 낸드플래시 사업 경쟁력을 위해 개방화 노선을 택했다. 경쟁사인 삼성전자 출신 전문인력을 대거 영입하기 시작했고, 도시바(현 키옥시아)와 기술 협력을 통해 공정 노하우와 차세대 기술을 적극 받아들였다. 이 같은 노력의 결실로 최근에는 3차원(D) 낸드플래시 분야에서 굵직한 성과를 내놓으며 삼성전자를 긴장하게 만들고 있다.

◇ 삼성전자, ‘파운드리’ 사업 추진 자원 분산… 반격 기회 잡은 SK하이닉스

비휘발성 메모리 반도체인 낸드플래시는 과거 평면(Planar·2D)으로 칩을 확장해서 저장용량을 키웠다. 그러나 미세공정이 한계에 다다르면서 2010년 이후엔 저장공간을 1층 주택이 아닌 고층 아파트처럼 위로 높게 쌓아 올리는 3D 구조로 전환했다. 데이터를 저장하는 셀을 수직으로 쌓으면 웨이퍼(반도체 기판) 1장에서 생산할 수 있는 용량이 늘어나 효율도 높아진다. 삼성전자는 2013년 업계 최초로 3D 1세대 24단 낸드플래시를 내놓으며 수직 적층 기술을 선보였다.

글로벌 낸드플래시 시장은 ‘3강’ 체제인 D램과 달리 삼성전자, SK하이닉스 외에 일본 키옥시아, 미국 마이크론, 웨스턴디지털 등 5개사가 각축전을 벌이고 있다. 이 중 삼성전자는 전통의 강자로 과거 평면 낸드플래시 시장에서도 줄곧 1위를 지켜왔다. 3D 낸드플래시 구조도 가장 먼저 도입한 선구자다. 현재 글로벌 낸드플래시 제조사 중 가장 큰 생산능력을 갖춘 기업도 삼성전자다.

그래픽=손민균

하지만 삼성전자가 주도해 온 낸드플래시 시장의 리더십은 2020년대 들어 균열이 생겼다. 거물급 엔지니어들이 SK하이닉스로 대거 이동했고, 이들은 추격의 발판을 마련했다. 2017년 SK하이닉스에 영입돼 낸드플래시 사업을 진두지휘했던 정태성 전 SK하이닉스 사장은 삼성전자에서 20년 넘게 근무했던 ‘삼성맨’이다. 삼성전자 내에서 최고의 낸드 전문가로 불리며 ‘자랑스러운 삼성인상(2007년)’을 수상했던 최정달 부사장이 같은해 SK하이닉스로 이직하면서 차세대 낸드플래시 개발에 박차를 가하기 시작했다.

최 부사장은 SK하이닉스로 가자마자 3D 낸드플래시 전환에 필수적이었던 트리플레벨셀(TLC: 낸드플래시의 기본 단위인 셀에 3비트를 저장해 저장 효율을 높이는 기술)을 안정화하고, 72단 3D 낸드플래시 양산과 기업용 SSD(솔리드스테이트드라이브) 시장 진출 확대, 96단 낸드플래시 개발 등 SK하이닉스 낸드플래시 사업의 중요한 이정표를 만들었다. 업계 최초의 128단 낸드플래시 개발에 이어 지난해 3월에는 경쟁사를 제치고 321단 낸드플래시 개발을 주도했다.

SK하이닉스가 이처럼 추격의 고삐를 당기고 있는 있는 동안 삼성전자의 시선은 다른 곳을 향하고 있었다. 대만 TSMC가 장악하고 있는 파운드리(반도체 위탁생산) 시장이었다. 2010년대 메모리 초호황기에 막대한 자금을 확보한 삼성전자는 반도체 분야의 새로운 성장 동력 창출을 위해 파운드리 분야에 투자금을 쏟아부었다.

삼성전자는 지난 2014년 TSMC를 제치고 퀄컴의 14나노 모바일 애플리케이션프로세서(AP)를 수주하며 파운드리 시장에서 두각를 드러냈다. TSMC와 라이벌 관계를 형성하기 시작한 것도 이 때부터다. 삼성전자는 2018년 한 해 영업이익으로 58조원을 벌어들였고, 이듬해 파운드리 분야에 100조원을 투자해 오는 2030년에 파운드리 시장 세계 1위가 되겠다는 포부를 밝혔다.

하지만 전문가들은 삼성전자가 메모리 반도체 집중형 사업구조를 무리하게 파운드리와 시스템 반도체로 확장한 것이 패착이 됐다고 평가한다. 사업 확장을 위한 인수합병(M&A) 없이 자체적으로 보유한 자원을 분산시키면서 메모리 반도체 분야의 R&D 역량이 약화됐다는 의미다. 실제 삼성전자는 지난 2017년 파운드리사업부를 독립 사업부로 출범 시킨 이후 메모리 공정 전문가들을 대거 파운드리 사업부에 투입했다. 이 때문에 D램·낸드플래시에 집중돼야 할 R&D 투자가 파운드리로 나뉘게 됐다는 분석이다.

이종환 상명대 시스템반도체공학과 교수는 “파운드리 사업은 메모리 반도체 이상으로 많은 연구 인력과 투자가 필요한 영역”이라며 “메모리 반도체 중심의 삼성전자가 파운드리 사업 후발주자로 나서다 보니, 기술 격차를 좁히기 위해 제한된 리소스(자원)가 분산될 수밖에 없었을 것”이라고 설명했다. 그는 “AI(인공지능) 반도체 시장이 커질수록 파운드리 사업의 중요성도 부각될 가능성이 높아, 삼성전자로선 사업 전략에 대한 고민이 깊을 것”이라고 했다.

◇ 낸드플래시 경쟁 300단대로 기술 수준 높아져… “삼성 기술력·생산역량 가장 뛰어나”

업계에서는 올해 낸드플래시 시장의 최대 변수로 300단 낸드 양산과 안정화를 꼽고 있다. 현재 시중에 나와 있는 제품 중 가장 최고층 낸드 제품은 삼성전자가 2년 전 양산한 236단 낸드와 지난해 6월 SK하이닉스가 양산을 발표한 238단 낸드다. 삼성전자는 올 상반기 중으로 300단대 낸드를 업계에서 가장 빨리 양산한다는 목표를 세웠다. 반면 SK하이닉스의 경우 삼성전자보다는 1년 정도 양산 로드맵이 늦어, 내년 상반기 중에나 300단대 낸드 양산이 가능할 것으로 보인다.

낸드플래시 생산 공법 측면에서는 아직 삼성전자가 가장 앞서있다는 평가를 받는다. 특히 삼성전자는 3D 낸드 생산의 승부처이자 핵심 기술인 ‘구멍 뚫기(에칭·Etching)’에서 경쟁사 대비 가장 비용 효율적이고 높은 수준의 기술력을 축적해 왔다. 3D 낸드를 초고층 아파트에 비유하면 층마다 데이터를 주고받을 고속 엘리베이터가 필요한데, 낸드도 데이터를 빠른 속도로 주고받기 위해선 균일한 구멍을 뚫고 전자를 이동시키는 기술이 중요하다. 단순히 구멍을 뚫는 것이 아니라, 그 안에 전자가 자유롭게 오갈 수 있도록 구멍 사이사이에 반도체 특성을 내는 물질을 채워 넣어야 한다.

삼성전자는 지난해 3분기 실적 콘퍼런스콜에서 “자체 개발한 독보적인 에칭 기술로 세계 최초로 싱글 스택(Single Stack)에서 160단 이상을 구현해 더블 스택만으로 300단 수준의 양산 칩을 성공적으로 확보했다”고 밝혔다. 싱글 스택이란 적층된 셀(Cell)에 전류가 흐르는 통로인 채널인 홀(Hole)을 한 번에 뚫는 기술로, 두 번에 나눠 구멍을 내는 더블 스택 방식보다 제조 시간과 원가 절감 측면에서 강점이 있다. 전 세대 대비 최대 쓰기 성능을 20% 높이고, 소모 전력은 15% 줄일 수 있다.

박영준 서울대 전기·정보공학부 명예교수는 “낸드플래시가 300단 경쟁에 접어들며 메모리 업계에 요구되는 기술 수준도 높아지고 있다”며 “잘 쌓는 것도 중요하지만, 회로 자체의 속도를 높이는 기술이나 회로와 셀을 따로 접합하는 방식 등 낸드의 성능을 향상시킬 수 있는 기술 경쟁력을 갖추는 것이 관건”이라고 말했다.

박 명예교수는 “낸드 사업에서 세계 1위 자리를 유지해 온 삼성전자의 기술력이나 생산역량, 원가경쟁력이 가장 뛰어나다”면서 “D램과 마찬가지로 낸드도 기술적 한계에 봉착하고 있다. 향후에는 첨단 낸드를 개발하기 위한 신물질이나 새로운 구조 등에 투자하고 기술 혁신을 이뤄내는 기업이 시장을 선점하게 될 것”이라고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -