“구글 뛰어넘을 골든타임…삼성·SK 생태계 만들라” [이익 500조 ‘반도체 구루’의 고언③]

━

‘HBM의 아버지’ 김정호 KAIST 전기·전자공학부 교수

김정호 카이스트 전기·전자공학부 교수가 서울 여의도에서 HBM 등 국내 반도체 미래 전망에 대해 중앙일보와 인터뷰하고 있다. 김경록 기자

최근 시장은 반도체 기업들의 유례없는 실적에 환호하고 있다. 통상 예상치를 크게 밑도는 실적이 나오면 ‘어닝 쇼크’라고 하는데 삼성전자와 SK하이닉스의 경우 실적이 예상을 파격적으로 웃돌아 ‘쇼크’라는 반응이 나올 정도다.

지난 24일 서울 여의도의 한 공유오피스에서 만난 김정호 한국과학기술원(KAIST) 전기·전자공학부 교수는 이에 대해 “전혀 놀랄 일이 아니다. AI(인공지능)가 똑똑한 건 결국 메모리 덕이다. 현실적으로 AI 성능을 향상시키는 유일한 길은 메모리 용량과 속도를 높이는 것 뿐”이라며 국내 메모리 반도체 산업에 대한 자부심을 드러냈다.

그는 삼성전자 메모리사업부 수석 엔지니어를 거쳐 1996년, 서른다섯의 나이로 KAIST 교수로 부임해 20년 넘게 고대역폭메모리(HBM)를 연구한 세계적 석학이다. 특히 2010년부터 HBM 개념 정립 및 상용화 설계에 직접 참여해 업계에서 ‘HBM의 아버지’로 불린다.

AI 확산으로 반도체 산업이 호황을 맞은 가운데 김 교수는 지금이야말로 한국 반도체 기업이 단순 ‘제조 강국’에서 ‘AI 생태계 리더’로 한 단계 점프해야 할 골든타임이라고 보았다. 그는 “우리 반도체 기업들이 사상 최고의 수익을 거두고 있는 지금이 바로 미래를 향한 집중 투자의 적기”라며 “단순히 칩을 잘 만드는 하드웨어 경쟁을 넘어, 최소 만 명은 넘는 소프트웨어 인력을 확충하고 자체 AI 모델과 서비스 생태계를 구축하는 데 전사적인 역량을 쏟아야 한다”고 강조했다.

현재 반도체 업황에 대해서도 “일시적 수퍼사이클(초호황기), 즉 단순한 업황 회복이 아니라 산업 구조가 바뀌는 과정”이라고 진단했다. 그는 “지금 나타나는 (좋은 실적) 수치는 시작에 불과하다”며 “빅테크(대형 기술기업)들의 AI 서비스 투자 상황과 전망을 보면 앞으로 훨씬 더 큰 변화가 이어질 것”이라고 단언했다.

과거 인터넷이나 스마트폰이 등장했을 때도 반도체 산업은 호황을 맞았었다. 하지만 이번에는 결이 다르다고 분석했다. 김 교수는 “인터넷이나 스마트폰은 소비자가 얼마나 편리하게 쓰느냐는 개인의 문제였다면, AI는 국가 패권 및 지정학적 생존과 직결된다”며 “반도체가 국방·안보 산업의 성격을 갖게 된 것”이라고 말했다.

하지만 메모리 시장의 미래가 마냥 장밋빛인 건 아니다. 특히 지난달 구글이 인공지능(AI) 메모리 압축 기술인 ‘터보퀀트’를 공개하면서 향후 메모리 수요가 6분의 1까지 줄어들 거란 우려가 나온다. 이 경우 메모리 가격이 떨어지고 국내 메모리 기업들이 대만 TSMC나 미국 엔비디아의 하청 업체가 될 수 있다는 극단적인 전망도 있다. 김 교수의 의견을 물었다.

Q : 구글 터보퀀트, 정말 위협이 될까.
A : 알고리즘적으로 메모리 효율을 높이려는 방안이다. 메모리 수요가 너무 많으니 이를 좀 줄일 수 있는 방법이 없을까 해서 나온 건데 사실 실험 자체는 아주 작은 모델로 했다. 샘플 사이즈가 아닌 현실로 스케일업 하면 (실현하기까지) 해결해야 할 문제가 많을 거다.

Q : 앞으로 메모리가 그래픽처리장치(GPU) 우위에 설 거라는 전망도 있다.
A : GPU는 발열이 심해서 HBM처럼 쌓을 수가 없다. 또 엄청난 면적이 필요해 경제성이 떨어지기 때문에 HBM만큼 경쟁력이 없다. 이제 GPU보다는 메모리가 AI 성능을 좌우하는 ‘메모리 갑(甲)의 시대’가 올 거라고 본다.

Q : 삼성이 HBM에서의 초반 부진을 상당히 빨리 극복했다.
A : 기술 교류와 공동 연구 목적으로 삼성 엔지니어들을 주기적으로 만나는데, 사실 2024년 말부터 엔지니어들의 눈빛을 보면서 분위기가 달라졌다고 생각했다. 예전엔 메모리 경쟁력이 밀리니 압박을 받는 느낌이 컸다면 저 때부터 할 수 있다는 의지가 보였고, 질문도 적극적이었다. 작년 봄부터는 해 내겠구나, 확신이 들었다.

Q : 차세대 HBM4(6세대) 경쟁 구도는 어떻게 될까.
SK하이닉스가 HBM3E(5세대)까지 성적이 좋았고 엔비디아와의 팀워크도 안정적이다. 하지만 6세대인 HBM4부터는 판이 바뀐다. 이제는 메모리에 로직 기능을 얹게 되는데 SK하이닉스는 대만 파운드리(반도체 위탁생산) 기업인 TSMC와 연합군을 형성한 반면, 종합반도체기업(IDM)인 삼성은 메모리 설계, 파운드리 제조, 첨단 패키징을 모두 한 지붕 아래서 할 수 있다.

기술력만 잘 끌어올리면 TSMC나 엔비디아의 눈치를 볼 필요 없는 데다가 엔비디아의 독주를 견제하려는 AMD·애플·구글 같은 빅테크들과도 손잡을 수 있어 게임체인저가 될 수 있다. 예전엔 파운드리를 떼어 내야 한다는 얘기도 있었는데 이젠 오히려 복덩어리가 될 수 있다.

김정호 카이스트 전기·전자공학부 교수가 차세대 고대역폭메모리(HBM) 구조에 대해 설명하고 있다. 김경록 기자

반도체 업계와 증권가에선 올해 삼성전자와 SK하이닉스의 합산 영업이익이 500조원을 넘어설 거라는 전망을 내놓고 있다. 이에 대해 김 교수는 “전쟁 같은 극단적 상황만 없다면 향후 3년 내 삼성과 SK하이닉스 두 기업의 영업이익 합계가 1000조원에 육박할 수 있다고 본다”며 “코스피 7000 시대를 두 회사가 이끌지 않을까 기대한다”고 했다.

Q : 엄청난 이익을 냈는데 당장 뭘 해야 할까.
A : 가장 시급한 건 미래 투자다. 인센티브도 중요하지만, 미래에 대한 투자가 없으면 경쟁에서 뒤처지는 건 정말 한순간이다. 지금 상황이라면 엔비디아나 구글도 메모리를 제조할 수 있고, 인텔은 파운드리를, 중국은 HBM 제조를 노리고 있다. 지금 들어오는 막대한 자금으로 미래 투자를 안 하면 앞으로 하고 싶어도 영원히 기회가 안 올 수 있다.

Q : 구체적으로 어디에 투자해야 하나.
A : 삼성의 경우 딱 두 가지에 돈을 써야 한다. 첫째 소프트웨어 분야 인재 투자, 둘째 자체 AI 모델 구축이다. 삼성은 메모리칩(하드웨어)을 만들지만, AI 서비스 부문은 구글에 훨씬 뒤처진다. 구글 계정으로 유튜브를 보고 제미나이를 쓰듯이 삼성도 전 세계인이 삼성의 AI 생태계 안에서 노는 세상을 만들어야 한다. 삼성이 소프트웨어와 AI 서비스 경쟁력을 쌓아 올리면서 수직계열화한다면 10년 내 전 세계 1등 기업이 될 기회가 있을 거다.

Q : 현재 성과급을 둘러싸고 삼성 노사 간 대립이 심한데.
A : 반도체 사업은 군대처럼 가야 한다. 군대에 파업이 있을 수 있나. 한 달에 몇십조원이 날아가고 고객 신뢰도가 바닥을 칠텐데 이런 파괴적인 파업이 있어선 안 된다. 단순 수익 배분이 아니라 국가 생존과 경제 성장 입장에서 노사가 상생해 발전방향을 찾아야 한다.

Q : 성과는 어떻게 하면 좋을까.
A : 성과에 따른 보상은 반드시 필요하다. 형평성도 어느 정도 고려해야겠지만 일괄 지급이 아닌 기여도에 따른 차등 보상이 원칙이 돼야 한다.

Q : 정부는 뭘 해야 하나.
A : 일단 절대적인 이공계 학생이 적다. 유능한 이공계 인재를 길러내고 기초연구를 할 수 있는 생태계를 만드는 게 중요하다. 기업들이 생산시설을 짓겠다고 하면 발전소 공급망이나 토지 인허가 등 절차를 빨리빨리 진행할 수 있도록 도와야 한다. 단, 기술 개발 등 기업이 해야 할 분야는 가급적 자율에 맡기는 게 도와주는 일이다.
☞‘HBM의 아버지’ 김정호는= 1961년 태어나 서울대 전기공학과를 졸업하고 석사를 마친 뒤 미국 미시간대에서 전기공학 박사학위를 받았다. 1994년부터 삼성전자 메모리사업부 수석 엔지니어로 재직하며 D램 패키징 및 배선 설계 분야에서 활약했다. 1996년 KAIST 교수로 부임, 2010년부터 인공지능(AI) 반도체의 핵심인 고대역폭메모리(HBM)의 상용화 설계에 직접 참여해 관련 분야의 세계적 권위자로 꼽힌다. 학계에서의 공로를 인정받아 2016년 미국 전자공학회(IEEE) 석학회원(Fellow)으로 선정됐다.

이우림 기자 yi.woolim@joongang.co.kr