김녹원 딥엑스 대표 “AI 기술 물·전기처럼 쓰게 될 것” [이지민의 스타트업 줌人]

애플 AP 설계 수석연구원 출신으로 2018년 창업
“AI도 저전력 시대…NPU 시장서 주연 꿰찰 것”
‘독보적 기술로 2026년 엣지 AI 시장 주도’ 목표

“머지않은 날 인공지능(AI) 기술을 물이나 전기처럼 사용하게 되는 날이 도래할 것이다. 그 믿음으로 딥엑스를 창업했다.”

챗GPT를 계기로 급성장한 AI 시장과 함께 이를 뒷받침할 AI 반도체 시장이 각광받고 있다. 그래픽처리장치(GPU) 가격이 급등하면서 대안으로 AI 반도체인 신경망처리장치(NPU) 인프라가 주목받는 상황이다. 토종 AI 반도체 팹리스(설계기업) 딥엑스는 그 중심에 있다. 김녹원(사진) 딥엑스 대표가 단단한 자신감을 내비친 이유다.

애플 애플리케이션프로세서(AP) 설계 수석연구원 출신인 김 대표는 브로드컴, 시스코, IBM 등 시스템 반도체의 각 분야를 대표하는 글로벌 기업에서 경력을 쌓았다. 2018년 딥엑스 창업 뒤 개발자들과 함께 NPU 4개 제품군을 개발했다. 이 제품들은 포스코DX의 스마트팩토리 시스템 등에 적용돼 실증 중이다. 

김 대표는 AI가 어디에서나 존재하는 미래를 그리고 있다. 그는 “창업 전부터 쌓은 경험으로 확신할 수 있다”며 “어디에나 AI가 쓰인다는 생각은 ‘미래’가 아니라 눈앞에 도래한 ‘현재’”라고 강조했다.

―딥엑스를 소개한다면.

“딥엑스는 AI에 특화한 NPU 기반 컴퓨팅 시스템 기업이다. NPU는 중앙처리장치(CPU), GPU 기반 반도체보다 AI 연산에 최적화된 반도체다. 복잡한 AI 연산을 하다 보니 필요한 전력이 많다. 앞으로 반도체 산업을 리드할 키워드는 ‘저전력 기술’이다. 이를 ‘전성비(소비전력 대비 성능)’이라고 말하는데, 딥엑스는 ‘이제 AI도 저전력 시대로 가야 한다’고 본다.

딥엑스는 미국과 중국 등 주요 시장에서 원천기술 특허를 약 195개 출원했다. 올해 초에는 제품 현대차 로보틱스랩, 포스코DX 등과 협약을 맺고 제품 양산을 준비 중이다. 이외에도 스마트 카메라, 관제 및 보안 시스템, 로봇, 등 다양한 산업군 내 기업들과 제품 양산을 위해 협업하고 있다.”

―딥엑스가 겨냥하는 시장은.

“딥엑스는 데이터센터 밖의 ‘엣지(Edge)’ 시장을 정조준하고 있다. ‘데이터센터 밖 모든 기기에 AI 반도체를 탑재하겠다’는 게 목표다. 엣지 AI는 클라우드 확산과 더불어 AI 기술이 고도화되면서 무궁무진한 성장 가능성이 잠재된 분야다. 스마트폰을 비롯해 자동차, 가전, 로봇 등이 이 분야에 속한다. 이러한 엣지 디바이스는 모두 우리 일상과 밀접한 관계가 있다.

이처럼 AI 기술이 엣지 디바이스에 연결되기 위해서는 서버뿐만 아니라 각 전자기기에 AI 연산을 지원하는 칩이 탑재돼 있어야 한다. 바로 딥엑스 NPU가 제공하는 것이다.”

―딥엑만이 가진 독보적인 기술 경쟁력이 있다면.

“글로벌 주요 팹리스 중 현재 자체 NPU 기술을 보유한 기업은 없다. 해당 기업들의 제품들은 타사의 NPU IP를 라이선스한 경우가 대부분이다. 현재까지는 딥엑스를 포함해서 미국의 시마(Sima), 이스라엘의 헤일로(Hailo), 유럽의 엑세레라(Axelera)등 신흥 엣지 NPU 반도체 기업들의 기술 경쟁력이 상당히 앞서가고 있다. 참고로, 반도체 최대 설계 IP 기업인 ARM은 NPU 기술에 대한 IP 기술 개발과 사업의 확장을 중단했다.

딥엑스의 AI 반도체 원천기술에는 글로벌 경쟁 기술 대비 5대 초격차 강점이 있다. 첫 번째는 다양한 엣지 응용 분야가 원하는 최신 AI 알고리즘 지원을 지원하는 것이다. 예를 들어 현재 어떤 글로벌 엣지 NPU 기술에서도 구동되지 않는 최신 객체 인식 알고리즘인 ‘욜로(Yolo)7’을 삼성 파운드리 공정 28나노미터(nm)로 제작한 스몰 카메라 모듈에서 세계 최초로 구동시키고 있다.

두 번째는 딥엑스 NPU는 다른 엣지 AI 반도체와 같이 정수형 8비트를 사용하고도, 부동소수점 32비트를 사용하는 GPU와 흡사하거나 오히려 상회하는 AI 정확도를 제공한다.

세 번째는 전 세계 엣지용 NPU 기술에서 가장 높은 연산 성능 효율과 전력 대비 성능 효율에서 최고의 기술을 확보하고 있다는 점이다.

네 번째는 AI 반도체 기술 기업이 전 세계적으로 100개가 넘는데 대부분이 한 개의 칩 솔루션을 제공하고 있다. 딥엑스는 다양한 AI 응용을 위해 응용군이 필요한 기능과 인터페이스를 달리해 올인포 엣지 AI 토탈 솔루션을 제공한다.

마지막으로 글로벌 경쟁사와 비교해 압도적인 제조 단가 경쟁력이 있다.”

―구체적인 가격 경쟁력은.

“삼성 파운드리 5nm 공정에서 개발한 딥엑스의 플래그쉽 제품인 DX-M1의 경우 글로벌 NPU 경쟁 기업들과 비교해 실효 연산 성능이나 전력 대비 성능 효율에서 우위가 있다. 동시에 제조 단가에서도 초격차를 확보했다. 다른 기술들은 캐쉬 메모리를 32MB 이상 사용한다. 반면 DX-M1은 7MB의 캐쉬 메모리만 사용하여 성능 우위를 제공한다. 경쟁 기술 대비 캐쉬 크기는 4분의 1 이하이고, NPU 설계 면적 기준으로는 3분 1의 면적을 가지게 된다. 엣지 AI 반도체 시장이 개화하는 시점에 AI 반도체 시장에서 가장 강력한 경쟁 요인이 되는 제조 단가에서 초격차를 확보한 셈이다. AI 반도체 시장에서 치킨 게임을 시작할 수 있는 강력한 무기를 보유한 것이나 다름없다.”

―애플에서의 경험이 도움됐는지.

“딥엑스는 NPU 시장에서 주연을 꿰찰 준비가 됐다. 차별화한 기술력이 그 근거다. AI의 연산 기능을 고도화하기 위해서는 D램 액세스 최소화가 무엇보다 중요하다. 문제는 D램이 프로세서보다 데이터 처리 속도가 느리다는 점이다. 딥엑스는 구조적으로 D램이 맡는 데이터 처리량을 최소화하기 위해 소프트웨어와 하드웨어를 최적화했다. 여기에 애플의 개발 구조를 그대로 이식했다. 애플이 안드로이드보다 더 높은 성능을 낸 데에는 소프트웨어와 하드웨어를 동시에 이해하는 엔지니어링 덕분이다. 저는 애플에서 칩만 개발한 게 아니라 애플의 문화를 이해하고 전략을 파악해서 이를 딥엑스에 적용했다. 저전력 NPU 모델을 위해 딥엑스는 스몰 모델부터 시작해 점진적으로 키울 계획이다. 또한 삼성 파운드리와의 협력으로 AI 반도체의 원천기술 국산화에 도전할 것이다.”

―딥엑스의 NPU와 엔디비아의 GPU를 비교한다면.

“GPU 기술은 전력 공급이 풍부하고 진보된 쿨링 기술을 적용할 수 있는 데이터센터 내에서는 AI 연산 처리를 완벽하게 실행하고 있다. 하지만 배터리로 구동돼 전력 공급에 제약이 있다. 최신 GPU 기반의 엣지향 제품은 60~75W까지 전력을 소모한다. 

딥엑스 기술은 최신 AI를 GPU 수준의 정확도로 연산처리 하면서 20배 이상의 전력 소모 대비 AI 연산처리 효율을 제공한다. 또한 AI 기술을 구현하기 위한 총소유비용(TCO) 면에서도 압도적인 경쟁력이 있다. GPU 기반 솔루션이나 다른 NPU 경쟁 기술들의 AI 서비스 구현 기술 비용이 너무 높은 것도 아직 (디바이스 내부 역량만으로 AI를 구동하는) 온-디바이스 AI가 대중화하지 못한 이유라고 생각한다. 딥엑스는 엣지 디바이스에 대량으로 AI 기능을 탑재할 수 있는 정도의 가격 정책을 추구하고자 한다”

―글로벌 시장 진출 현황 또는 계획은.

“딥엑스는 미국, 중국, 대만 등 각종 전시회와 프로모션에 나가서 만나는 고객들의 숫자가 적게는 600명에서 많게는 1000명 이상이다. 본격적으로 미국 진출을 위해 지난 5월 법인을 개소했다. 중화권 진출을 위해서는 지난 4월 삼성전자 전속 대리점인 코아시아 일렉과 파트너십을 맺고 중국 본토와 대만 등에 비즈니스 인력을 전담 배치했다. 

앞으로 연간 각 주요 거점에서 전시회 및 로드쇼를 진행 계획이다. 중국 2∼3개, 대만 2∼3개, 미국 경우 법인을 통해 지속해서 딥엑스의 기술과 제품에 대해 알려서 기술 우위성 안에서 딥엑스를 따라올 수밖에 없도록 글로벌 스탠다드로 도약하고자 노력할 것이다.

올해는 4개의 제품을 엔지니어링 샘플 형식으로 출시해 10여개 고객사에 공급했고, 곧 100여개 글로벌 기업에 공급하고자 한다. 해당 제품을 공급받은 고객사 중에는 양산 시스템에 적용해 저희 제품의 양산성을 평가하고 양산을 준비하는 그룹도 있다. 그 경우 내년 자사의 칩이 양산되는 대로 고객사의 양산 제품에 적용하게 될 것이다. 내년에 양산 칩이 나와 고객사들의 신규 세트 제품에 적용돼 2025년에 고객사들의 세트 제품이 출시될 것으로 예상한다. 2026년이 엣지 AI 기반 세트 제품이 대중화될 것으로 예측한다.”

―AI반도체 시장 전망은.

“가트너 보고서에 따르면 엣지 AI 및 AI 기반 컴퓨터 비전 시장이 가장 빨릴 열릴 것으로 예견하고 있다. 또 글로벌 시장 조사 기관인 IDC 리포트에 따르면 2026년 중국 IT기기의 56%에 AI 엔진이 탑재될 것으로 보고 있다. 최근 최시영 삼성전자 파운드리사업부 사장고 AI 반도체 시장의 성장을 전망하며, 특히 엣지 분야가 폭발적으로 성장할 것이라고 발표했다.”

―이에 발맞춘 딥엑스의 향후 계획은.

“딥엑스는 올해 엔지니어링 샘플로 원천기술을 입증했고 현재 개발팀이 양산 칩 마무리 작업을 마쳤다. 내년에 양산 칩이 시장에 뿌려질 것이고, 2025년 세트업체들이 딥엑스 칩을 탑재해서 양산을 완료되면, 딥엑스는 2026년 엣지 AI 시장의 빅 웨이브(큰 물결)에 올라탈 수 있을 것으로 예상한다. 

장기적으로 글로벌 시장의 엣지향 NPU 기술에서는 독보적 수준의 격차를 가져가야 한다고 생각한다. 이를 10~15년을 지속하면서, 제품 매출, 관련 기술 수준, 개발자 생태계까지 시스템 반도체 분야에서 세계 최고가 될 수 있을 것으로 본다.”

이지민 기자 aaaa3469@segye.com