세계 최대 가전·정보기술(IT) 전시회 ‘CES 2024’에서 3개의 혁신상을 수상하며 주목받은 인공지능(AI) 반도체 업체가 있습니다. 인공지능(AI) 반도체 업체 '딥엑스'는 4개의 AI 반도체와 이 반도체들을 하나로 구동할 수 있는 개발 환경을 선보여 혁신상을 받았습니다. 한국 반도체 업계의 취약점으로 꼽히던 시스템 반도체 분야, 그중에서도 AI 반도체의 성장 가능성을 보여주어 CES 2024 이후 업계와 언론의 관심을 받고 있는 딥엑스 김녹원 대표의 인터뷰를 '정책주간지 K-공감'에서 확인하세요.

반도체 초격차로 가는 길
AI 반도체 난제 풀어
“기술은 독점이 아니라 인류를 돕기 위한 것"

반도체에 대해 잘 모르는 사람도 우리 반도체 업계에 전환점이 필요하다는 사실은 압니다. 반도체 강국이라고 하지만 확보된 ‘원천기술’은 부족하고 시대를 선도하기 위한 ‘초격차’ 기술은 갖추지 못했다는 것을 곳곳에서 지적해왔기 때문입니다. 이런 상황에서 한국의 실리콘밸리라고 부르는 경기 성남시 판교의 한 스타트업에서 반도체 업계를 술렁이게 만들 기술을 개발해냈다는 사실을 알게 되면 호기심이 생길 수밖에 없습니다.

최근 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 ‘CES 2024’에서 3개의 혁신상을 수상하며 주목받은 인공지능(AI) 반도체 업체 ‘딥엑스’가 주인공입니다. 딥엑스는 4개의 AI 반도체와 이 반도체들을 하나로 구동할 수 있는 개발 환경을 선보여 혁신상을 받았습니다. 김녹원 딥엑스 대표는 글로벌 AI 반도체 기업의 대표로 CES 2024 공식 대담에 초청됐고 딥엑스는 CES 2024 기간 동안 50곳 넘는 고객사를 확보했습니다. 애플의 애플리케이션프로세서(AP) 설계 수석연구원 출신인 김 대표는 세계 최고 수준의 반도체기업 브로드컴과 시스코, IBM 등에서 반도체 설계 실무 경험을 쌓아 한국으로 돌아와 딥엑스를 창업했습니다. 이들 기업에서 배운 시스템 반도체 개발 방법론을 딥엑스에 이식해 새로운 AI 반도체를 만들어낸 것입니다.

딥엑스가 이뤄낸 성과를 쉽게 요약하자면 ‘한국 반도체 업계의 취약점으로 꼽히던 시스템 반도체 분야에서 초격차 기술을 확보할 가능성을 보여줬다’는 것입니다. ‘비메모리 반도체’라고도 불리는 시스템 반도체는 정보를 저장하는 메모리 반도체와 다르게 연산과 논리를 담당합니다. 그동안 우리나라는 메모리 반도체 분야에 강점을 보였는데 앞으로는 시스템 반도체 분야가 시장을 선도할 것으로 보입니다. 김 대표 역시 시스템 반도체 분야, 그중에서도 AI 반도체의 성장 가능성에 일찌감치 주목했습니다. CES 2024 이후 쏟아진 업계와 언론의 관심으로 더욱 바빠진 김 대표를 판교 딥엑스 사무실에서 만났습니다.

Q. AI 반도체가 앞으로 반도체 시장을 이끌어갈 것이라고 생각하는 이유는?
AI 반도체가 없다면 AI는 구현될 수 없습니다. 반도체는 우리 생활 어디에나 존재합니다. 스마트폰, 자동차는 물론이고 가전제품, 엘리베이터 같은 인프라, 밥솥 같은 일상용품에 이르기까지 반도체가 없는 곳은 없습니다. 그리고 이제는 반도체에 AI가 얹히기 시작했습니다. 스스로 움직이는 자율주행차, 위험한 공정을 자동화 하는 스마트 팩토리, 아이들과 대화하는 로봇 장난감까지 누가 더 나은 AI 반도체를 만드느냐가 중요한 문제가 됐습니다.

Q. AI 반도체 개발에는 난관이 많지 않나?
수많은 팹리스 중에 딥엑스가 돋보이는 이유는 AI 반도체가 가지고 있던 숙제들을 한 번에 풀어냈기 때문입니다. 애초에 AI 반도체가 별도로 개발돼야 하는 이유가 있습니다. 기존에 AI를 구현하던 시스템 반도체 GPU로는 새로운 수요를 감당할 수 없기 때문입니다.

GPU는 그래픽 데이터를 처리하는 장치로 개발됐습니다. 흔히 ‘그래픽 카드’라고 불리는 것입니다. 대량의 데이터를 동시에 처리할 수 있기 때문에 AI 연산을 하는 데 쓰였습니다. 많은 정보를 한꺼번에 학습하는 데 적합하기 때문입니다. 문제는 GPU가 전자기기에서 제대로 작동하기 어렵다는 점입니다. 참고로 이렇게 제품에 AI를 탑재하는 것을 업계에서는 ‘온디바이스(on-device) AI’라고 합니다. 컨트롤러, 로봇, 자율주행차 등을 엣지라고도 하니 ‘엣지 AI’도 비슷한 뜻입니다. 다시 말하자면 GPU는 온디바이스 AI, 엣지 AI에서는 한계가 드러납니다.

게다가 GPU로 초거대 AI 모델은 물론 더욱 증대될 AI 연산을 처리하려면 막대한 전력과 비용이 필요합니다. 엔비디아가 한 해에 판매하는 GPU의 전력 소비량이 웬만한 개발도상국 한 나라의 연간 소비량과 맞먹을 정도입니다.

Q. GPU의 단점을 보완하는 기술은 무엇인가?
그래서 개발된 것이 NPU입니다. 우리말로 풀이하면 ‘신경망 처리 장치’로 인간의 뇌를 본떠 만든 반도체입니다. 전력을 적게 쓰고 생산비용도 절감할 수 있다는 장점이 있습니다. 문제는 정확도입니다. 최신 AI 알고리즘을 지원하지 못한다거나, 하더라도 GPU보다 정확도가 떨어지는 등의 문제가 발생하고 있습니다.

NPU에도 종류가 있는데 데이터센터를 기반으로 대량의 추론을 하는 NPU가 있고 전자기기에서 작동하는 엣지형 NPU가 있습니다. 딥엑스는 데이터센터형 NPU와 엣지형 NPU 시장을 모두 공략하고 있습니다. 서버 시스템에 필요한 AI 반도체, 로봇이나 제품에서 작동하는 AI 반도체를 만들고 있다는 말입니다. 딥엑스의 NPU는 기존 NPU의 단점을 보완했습니다.

Q. 기존 NPU와 비교해 딥엑스의AI 반도체 경쟁력을 설명한다면?
간단하게 설명하자면 딥엑스의 AI 반도체는 작고 저렴한데 정확도는 GPU와 흡사하거나 이를 상회하기도 합니다.

Q. 그게 기술적으로 가능한가?
그래서 처음에는 ‘사기꾼’이라는 말까지 들었습니다. NPU의 정확도가 GPU보다 낫다는 이야기는 정보를 담는 그릇이 작지만 정보를 가공한 결과물은 더 낫다는 것입니다. 일반적으로 가능하지 않을 거라 생각하는데 우리는 제품으로 증명해냈습니다. CES 2024 기간 동안 수많은 반도체 기업이 찾아와 가능하다는 사실을 확인했고 실제로 삼성 파운드리 공정에서 전력 대비 성능 비율이 최대로 나왔습니다. 어떻게 가능했는지 일일이 다 말할 수 없지만 예를 들자면 문제집으로만 공부한 학생보다 교과서의 원리를 공부한 학생이 점수가 더 잘 나오는 것과 같은 것입니다.

Q. 그렇게 개발한 AI 반도체 4개를 ‘올인포 토털 솔루션’이라는 이름의 한 제품으로 제공한다. 이유가 무엇인가?
보통의 NPU 개발사들은 하나의 칩을 개발합니다. 그런데 모든 제품에서 같은 반도체가 쓰이지 않습니다. 말하자면 전자기기마다 필요한 반도체 체급이 다릅니다. 폐쇄회로텔레비전(CCTV)에 쓰이는 AI는 영상 분석만 해도 되지만 로봇에 탑재되는 AI는 훨씬 복잡한 연산이 필요합니다. 하나의 칩으로 해결이 될까요? 딥엑스는 하나의 전자기기를 연결해 AI를 연산처리할 수 있는 칩, 서너 개의 전자기기를 연결해 AI를 연산처리할 수 있는 칩 등을 개발해 어떤 장치(디바이스)에서든 사용할 수 있게 범용성을 갖췄습니다. 이게 혁신상을 받은 첫 번째 이유입니다.

Q. 혁신상을 받은 다른 이유에는 전력과 비용을 훨씬 절감하고도 성능을 확보했다는 것이 있다.
삼성 파운드리 28나노미터(㎚) 공정에서 제작한 DX-V1이라는 반도체에서는 최신 AI 알고리즘인 ‘Yolo7’이 구동됩니다. 기존의 NPU에서는 구동되지 않던 알고리즘입니다. DX-M1이라는 제품은 설계 면적이 다른 NPU에 비해 3분의 1입니다. 그럼 제조 단가도 3분의 1이 됩니다. 저전력 NPU에서 단가도 낮고 성능은 뛰어나니 딥엑스 제품은 AI 반도체 시장을 선도할 ‘강력한 무기’라고 설명할 수 있습니다.

Q. 실제로 시장에서 양산될 수 있나?
이미 샘플로 원천기술을 입증했고 개발팀이 양산 칩 마무리 작업을 마쳤습니다. 2024년 말 양산 칩이 시장에 공개될 것이고 완제품 생산 업체에서 딥엑스의 칩을 탑재해 제품을 양산한다면 딥엑스는 2025년 온디바이스 AI 시장의 적기에 기술을 선도하게 될 것입니다.

Q. 실리콘밸리의 손꼽히는 글로벌 기업에서 일했다. 왜 한국으로 돌아와 팹리스를 세웠나?
세계적인 파운드리 TSMC를 세운 모리스 창은 미국의 반도체 업체 TI에서 모든 것을 배워 고국 대만으로 돌아가 제조 공장을 세웠습니다. 당시 반도체 시장이 주문형으로 바뀔 것이라는 걸 예견해 위탁생산하는 파운드리를 세운 것입니다. 그와 같은 일을 하고 싶었습니다. 이제는 AI 반도체 시장이 열리는 시점입니다. 유수의 기업에서 반도체를 공부할 만큼 했습니다. 그러고 나니 시스템 반도체에 유독 취약한 한국의 반도체 생태계 문제를 해결할 수 있겠다는 생각이 들었습니다. AI 반도체 하나만큼은 잘할 수 있다는 확신이 생겼습니다. 그래서 팹리스 업체가 모여 있는 판교에 왔습니다.

Q. 고집스럽게 SI(전략적 투자)를 받지 않는다고 들었다.
SI는 인수합병이나 제휴를 염두에 두고 투자를 받는 것입니다. 그러면 기술을 한 기업이 독점하게 됩니다. 딥엑스의 AI 반도체 기술은 보다 민주적으로 모든 기업과 모든 사람이 사용할 수 있는 것이어야 한다고 생각합니다. 사실 애플에 있을 때 이러한 AI 반도체를 만들자고 사업계획서를 올린 적이 있었습니다. 당연히 독점 기술을 지향하는 애플에서는 말도 안 되는 소리라는 얘기를 들었습니다. 그래서 창업을 결심했습니다.

AI 반도체 기업은 독점 기술이 아니라 배타적 가치를 가지고 있어야 합니다. AI 기술 자체가 모두가 사용할 수 있는 것이 돼야 하는 것처럼 말입니다. 단지 다른 어떤 기업보다 뛰어난 실력을 키우는 것이 중요합니다. 그런 점에서 딥엑스는 글로벌 반도체 기업과 경쟁하지 않습니다. 글로벌 기업을 보완하려고 합니다.

Q ‘제2의 엔비디아’가 되겠다는 목표가 아니었나?
자율차, 스마트폰에 탑재되는 AI 반도체를 만드는 것이 아닙니다. 딥엑스가 내놓은 제품을 보면 알 수 있습니다. 생활 속에서 언젠가는 구현될 AI 시대를 앞당기는 것에 관심이 있습니다. 예를 들어 딥엑스의 제품이 아니었으면CCTV나 로봇에 탑재되는 AI 반도체가 구형 알고리즘을 벗어던질 시기가 늦춰졌을 것입니다. 누군가는 했어야 하는 일을 딥엑스가 해내고 있습니다.

Q. 그게 원천기술을 확보한다는 거다.
그렇습니다. 사실 딥엑스는 정부의 정책적 지원을 많이 받았고 굉장히 도움이 됐습니다. 한국의 반도체 생태계에도 큰 도움을 받았습니다. 정부의 정책은 옳은 방향으로 가고 있다고 생각합니다. 원천기술 개발에 대해서도 잘 지원해주고 실증화, 그러니까 실제로 제품화하는 데도 체계적인 지원을 해줍니다. 물론 한국의 반도체 생태계에 약점이 있다고는 하나 이를 보완할 의지를 가진 이들이 많습니다. 나 역시 이들에게 도움받은 입장에서 확보한 원천기술을 국가적 전략 기술, 초격차 기술이 되게 키우는 것이 딥엑스의 목표입니다.

Q. 회사 입구에 직원들에게 남기는 글이 적혀 있던데 여기에서도 돈보다 기술적 가치를 더 강조하는 것 같았다.
칼 세이건이 남긴 글에 있는 구절 ‘창백한 푸른 점’을 인용했습니다. 보이저 1호가 우주에서 찍은 지구의 모습을 보면 그저 하나의 점에 불과합니다. 돈과 권력을 아웅다웅 좇는 것보다 가치 있게 하루하루 살아가는 것이 더 중요하다고 생각합니다. 핵심은 일을 사랑하고 일을 가치 있게 만드는 것입니다. 60명에 이르는 우리 직원들도 그랬으면 좋겠다는 생각으로 쓴 글입니다.

Q. 그 생각이 ‘모두가 공유하는 기술’이라는 말과도 연결된다.
경영 측면에서 보면 그렇습니다. AI는 인류의 마지막 발명품 중 하나라고 생각합니다. 인류 진화의 종착점이 될 것이라는 얘기입니다. 그렇다면 성공은 이 방향에 도움이 되는 방향을 목표로 했을 때 달성 가능하다고 생각합니다. 그러니까 돈을 얼마나 벌고 기술을 어떻게 독점하느냐는 문제가 되지 않습니다. 이 방향을 누가 선도하는지가 중요합니다. 기술이 그걸 가능하게 합니다. 딥엑스의 AI 반도체가 실제로 구현할 것입니다.

▶ 왜 팹리스인가?

시스템 반도체의 성패 좌우

메모리 반도체 생산에서 중요한 부분은 생산 기술입니다. 원가를 절감하고 용량을 늘리는 기술을 어떻게 확보하느냐에 달렸습니다. 시스템 반도체의 성패는 설계에 달렸습니다. 어떻게 하면 더 복잡한 연산을 빠르게 처리할 수 있을지, 그러면서 가격과 효율을 담보할 수 있을지가 관건입니다. 여기서 설계만 담당하는 반도체 기업을 팹리스라고 부릅니다. 시스템 반도체 시장에서 독보적인 엔비디아가 세계적인 팹리스입니다.

팹리스라는 용어는 팹이 없다는 것을 의미하는데 팹을 ‘공장’이라고 생각하면 됩니다. 보통 반도체라고 하면 떠올리는 집적회로를 만드는 핵심재료는 실리콘을 가공한 웨이퍼입니다. 이 웨이퍼를 생산하는 설비를 팹이라고 부릅니다. 보통 팹을 건설하는 데는 엄청난 비용이 들기 때문에 대기업이 운영합니다. 반도체 설계부터 웨이퍼 생산 등을 모두 처리하는 종합 반도체 기업(IDM)인 삼성전자, SK하이닉스가 대표적입니다. 설계를 담당하는 기업이 팹리스라면 이를 위탁생산하는 곳은 파운드리입니다. 삼성전자나 SK하이닉스에도 파운드리가 있고 대만의 TSMC가 대표적인 파운드리입니다.

팹리스라는 용어는 팹이 없다는 것을 의미하는데 팹을 ‘공장’이라고 생각하면 됩니다. 보통 반도체라고 하면 떠올리는 집적회로를 만드는 핵심재료는 실리콘을 가공한 웨이퍼입니다. 이 웨이퍼를 생산하는 설비를 팹이라고 부릅니다. 보통 팹을 건설하는 데는 엄청난 비용이 들기 때문에 대기업이 운영합니다. 반도체 설계부터 웨이퍼 생산 등을 모두 처리하는 종합 반도체 기업(IDM)인 삼성전자, SK하이닉스가 대표적입니다. 설계를 담당하는 기업이 팹리스라면 이를 위탁생산하는 곳은 파운드리입니다. 삼성전자나 SK하이닉스에도 파운드리가 있고 대만의 TSMC가 대표적인 파운드리입니다.

요약하면 앞으로 시스템 반도체 시장에서 점유율을 넓혀가야 한다는 얘기는 곧 팹리스의 역량을 키워야 한다는 말이 됩니다. 생산역량은 충분히 갖췄지만 반도체 원천기술을 확보해야 한다는 말 또한 같은 맥락입니다.

월 15일 ‘민생을 살찌우는 반도체 산업’을 주제로 윤석열 대통령이 주재한 ‘국민과 함께하는 민생토론회’에서 발표된 ‘세계 최대·최고 반도체 메가 클러스터 조성 방안’에는 이 같은 인식이 고스란히 담겨 있습니다. 인공지능(AI) 시대를 주도할 반도체 초격차 기술을 확보하고 현재 3%에 불과한 시스템 반도체 시장 점유율을10%까지 끌어올려 글로벌 매출액 상위 50위 내 팹리스 기업을 10개 육성하겠다는 목표는 한국 반도체 업계의 지속가능한 성장을 위해 반드시 필요한 것입니다.

▶ 반도체 메가 클러스터 조성

2047년까지 판교를 비롯한 경기 일대에 ‘반도체 메가 클러스터’가 조성될 계획입니다. 민간 기업이 총 622조 원을 투자해 반도체 생산공장 13개, 연구시설 3개가 신설될 반도체 메가 클러스터는 세계 최대 규모의 반도체 산업단지가 될 전망입니다.
정부는 반도체 메가 클러스터 내 판교와 수원·평택을 중심으로 연구개발(R&D)과 교육 거점을 구축하겠다는 계획입니다. 특히 팹리스가 밀집된 판교에서는 ‘K-클라우드 프로젝트’가 추진됩니다. 2030년까지 세계 최고 수준의 저전력·고성능의 국산 인공지능(AI) 반도체를 개발하고 실증한다는 것입니다. 정부는 국산 AI 반도체를 NPU에서 이보다 더 나아간 ‘PIM’으로 단계적으로 고도화할 전망입니다. 이렇게 개발된 AI 반도체는 지능형 CCTV, 지능형 교통관제, AI 디지털 교과서 등 국민 생활과 밀접한 분양에 우선 적용해 국민의 삶을 편리하고 안전하게 바꿔나갑니다.

▶ 윤 대통령이 반도체 산업 챙기는 이유 ◀

“과학기술 혁명의 퍼스트 무버가 될 수 있게”

1월 15일 ‘민생을 살찌우는 반도체 산업’을 주제로 열린 ‘국민과 함께하는 민생토론회’에서 윤석열 대통령은 “반도체를 중심으로 한 과학기술 혁명의 퍼스트 무버가 되기 위해서는 국가의 모든 인적·물적·전략 자산을 총투입해서 치열한 속도전을 펴야 된다”고 말했습니다. 윤 대통령은 이날 경기 남부에 세계 최대의 반도체 메가 클러스터를 조성하겠다는 계획을 밝히며 “반도체 산업은 국가의 전략산업”이라고 강조했습니다.

윤 대통령은 “주변 어디를 봐도 반도체 없이 돌아가는 산업은 없다”면서 “인공지능(AI), 첨단 바이오, 퀀텀 같은 미래 전략 기술의 핵심 자산도 반도체”라고 설명했습니다. 따라서 “반도체는 그 어떤 산업보다 우리의 민생을 풍요롭게 하고 양질의 일자리를 많이 제공한다”는 것입니다. 윤 대통령은 “반도체 공장을 하나 세우면 설계 기업, 디자인 기업, 후공정, 연구개발(R&D) 시설까지 모두 들어서 거대한 생태계가 만들어진다”며 “전후방 투자가 뒤따르면서 어마어마한 일자리가 창출된다”고 설명했습니다. 그래서 선진국들도 반도체 메가 클러스터를 구축하기 위해 치열하게 움직이고 있습니다.

이런 상황에서 초격차를 유지하고 신격차를 만들어내는 것이 매우 중요합니다. 윤 대통령은 “반도체 같은 최첨단 제품은 복잡한 국제 분업체계에서 우위에 있게 만드는 것”이라며 “남들은 만들지 못하는 아주 비싼 고부가가치의 상품을 생산해야 한다”고 말했습니다. 그러면서 “반도체 산업의 혁명적 발전을 대통령이 직접 챙기겠다”고 의지를 보였습니다.