[박성현의 미래를 묻다] 급성장하는 추론 시장, AI 반도체 설계 주권 확보해야

박성현 리벨리온 대표

실리콘밸리의 거물 마크 안드레센은 10여 년 전 “소프트웨어가 세상을 먹어치운다”는 선언으로 한 시대를 정의했다. 하지만 인공지능(AI)이라는 거대한 파도가 덮친 지금, 그는 현시점 가치의 중심이 소프트웨어에서 하드웨어로 이동하는 거대한 로테이션이 일어나고 있다고 입장을 바꿨다. 소프트웨어의 무한한 확장성을 호기롭게 외치던 실리콘밸리조차 이제는 하드웨어라는 물리적 토대 없이는 AI가 지속가능하지 않음을 인정한 것이다. AI 산업에 대한 낙관론이 가득하지만, 냉정하게 그 이면을 들여다보면 AI 인프라, 다시 말해 하드웨어의 확보 없이는 그 무엇도 장담할 수 없다. 지금 ‘하드웨어가 세상을 먹어치우는 시대’라고 감히 단언할 수 있는 이유다.

■

「 전력 효율 높은 AI 반도체 생산
엔비디아 독주 벗어나 다변화
메모리와 파운드리 강점 살려
AI 생태계 표준 선점해야 승자
」

젠슨 황 엔비디아 최고경영자(CEO)가 올 1월 미국 라스베이거스에서 열린 엔비디아 CES 2026 라이브에서 기조연설 도중 AI 가속기를 들어보이고 있다. [뉴스1]

소프트웨어에서 하드웨어로
인공지능은 이제 국가 경쟁력을 좌우하는 핵심 인프라다. 생성형 AI의 확산부터 제조 혁신, 자율주행, 국방, 금융 시스템의 지능화까지 모든 길은 고성능 반도체로 수렴한다. 특히 인공지능이 실제 물리적 세계와 결합하는 피지컬 AI 시대가 다가오면서, 전통적인 제조업 강국인 대한민국의 제조 역량과 결합한 AI 반도체는 더욱 대체 불가능한 국가 자산이 되고 있다.

이 때문에 오늘날의 반도체 경쟁은 산업 경쟁을 넘어 기술 주권과 데이터 주권을 둘러싼 처절한 전쟁의 성격을 띤다. 데이터라는 원재료가 국토 안에 머물러 있다고 해서 주권이 저절로 확보되는 시대는 지났기 때문이다. 데이터를 가공하고 서비스로 전환하는 연산 통제권을 잃는다면, 결과적으로 데이터의 활용 방식과 보안까지 외부 기술에 종속될 수밖에 없다. 이로 인해 미국은 자국 중심의 공급망 재편과 첨단 반도체 수출 통제로 패권을 더욱 공고히 하고, 중국은 국가 자본을 투입해 AI 인프라 자립화를 가속하고 있다. 대만·일본·유럽 역시 데이터센터와 반도체 영역에 공격적 투자를 이어간다. 이 시장에서 승자가 되는 국가는 단순히 반도체를 많이 파는 나라가 아니라, AI 생태계의 표준과 발전 속도를 결정하는 나라가 될 것이다.

국가 지원 없이 주도권 잡기 어려워
특히 주목할 변화는 AI 반도체 시장의 무게중심이 지능을 만드는 학습에서, 이를 서비스로 구현하는 추론으로 빠르게 이동하고 있다는 점이다. 이제는 ‘누가 더 저렴하고 효율적으로 AI를 구동하는가’라는 수익성 증명이 생존의 관건이다. 이러한 기류 변화를 가장 민감하게 포착한 것은 역설적으로 시장 포식자인 엔비디아였다. 엔비디아는 최근 추론 특화 칩(LPU) 기반 인프라를 제공하는 그록의 핵심 인재를 흡수하고 라이선스를 확보하는 방식으로 사실상의 인수를 단행했다. 이는 추론 영역의 경쟁자를 제거하는 동시에 해당 시장까지 지배력을 확장하려는 전략이다. 빅테크들의 비(非)엔비디아 진영 구축도 거세다. 구글은 추론 성능을 강화한 7세대 TPU(텐서 처리장치) 아이언우드를 출시해 앤트로픽 등 외부 고객사를 확보할 만큼의 기술적 진전과 사업적 성과를 이루며, 비엔비디아 반도체에 대한 수요를 증명하고 있다.

결국 AI 비즈니스의 생존은 추론의 경제학, 즉 인프라 효율성에 달려 있다. 모든 연산에 대응하느라 비대해진 범용 GPU(그래픽 처리장치)는 대규모 서비스 단계에서 막대한 전력 소모와 비용이라는 비효율을 드러낸다. 이 장벽을 돌파할 대안은 실행과 응답에만 날을 세운 NPU(신경망처리장치)다. NPU는 전력 효율을 극대화해 AI 대중화의 필수 조건인 ‘지속 가능한 비용’을 실현한다.

그렇다면 향후 3~5년, AI 반도체의 판도는 어떻게 바뀔까? 갑자기 나타난 도전자가 엔비디아를 단번에 꺾는 그림은 아닐 것이다. 그보다는 폭발적으로 성장하는 추론 시장의 속도가 엔비디아 혼자서는 감당할 수 없는 수준에 이르며, 준비된 경쟁자들에게 기회가 열리는 다변화의 시대가 올 것이다. 다만 이 문은 기술적 난이도와 자본집약도가 너무 높아 국가적 지원 없이는 통과하기 어렵다. 예선전을 통과해 미래를 잡을 소수의 기업에 남기 위해, 우리는 바로 지금 그 준비를 시작해야 한다.

그래픽=김영희 02@joongang.co.kr

시스템반도체는 도전자인 한국
대한민국은 메모리 강국이지만 AI 시스템 반도체에서는 여전히 도전자다. 그러나 위기는 곧 기회다. 특정 국가나 소수 기업의 기술에 인프라 전체를 의존하는 구조는 극히 위험하며, 우리가 반도체 주도권을 쥐지 못하면 데이터라는 원재료를 보유하고도 ‘두뇌의 주도권’을 타국에 저당 잡히는 기술 종속을 피할 수 없다. 다행히 우리에게는 세계 최고의 메모리 파트너와 견고한 파운드리 생태계가 있다. 이 저력을 AI 반도체라는 실체로 뽑아내는 설계 주권을 확보해야만 우리가 만든 메모리 역시 그 가치를 온전히 인정받을 수 있다.

후방의 제조 생태계와 전방의 AI 수요를 연결하는 국산 AI 반도체는 대한민국 반도체 신화의 마지막 퍼즐 조각이다. 이 조각이 맞춰질 때 비로소 우리의 저력은 글로벌 시장에서 무시할 수 없는 전략적 협상력으로 치환될 것이다. 판이 바뀌는 지금, 제조 강국을 넘어 AI 반도체 설계자로서 주도권을 확보하는 것은 대한민국이 글로벌 공급망의 주역으로 도약하기 위해 반드시 완수해야 할 시대적 과제다. 십수 년 전 메모리 반도체로 세상을 놀라게 했듯, 이제 우리가 설계한 AI 반도체가 전 세계 지능형 서비스의 심장부에서 뛰며 기술 주권을 증명할 때다.

◆박성현=1984년생. AI반도체 설계 스타트업 리벨리온의 대표. 경남과학고와 KAIST를 졸업하고 미국 매사추세츠공대(MIT)에서 컴퓨터공학으로 석·박사 학위를 받았다. 이후 인텔·스페이스X·모건스탠리를 거쳐 2020년 리벨리온을 창업했다.

박성현 리벨리온 대표