AI 반도체 주도권 전쟁…엔비디아 ‘철옹성’ 구글·아마존·중국 ‘도전장’

이코노미 인사이트 _ Economy insight
경제의 속살

엔비디아의 공고한 그래픽처리장치(GPU) 철옹성에 맞서 구글은 텐서처리장치(TPU)로 경쟁을 선언했다. 2025년 11월 독일 베를린에서 열린 구글의 투자 발표회장에 구글 로고가 설치돼 있다. REUTERS

▶이코노미 인사이트 구독하기http://www.economyinsight.co.kr/com/com-spk4.html

누구나 인공지능(AI)이 미래라고 이야기하지만, 현재 AI 확산에는 치명적 한계가 있다. 바로 가격이다. AI 생태계의 가장 아랫단에는 반도체가 있다. 엔비디아 그래픽처리장치(GPU)는 전세계 AI 반도체 시장의 80~90%를 점유한다.

엔비디아 GPU는 한 장에 3만~4만달러(약 5800만원)이고, 이를 8장 묶은 서버는 약 40만달러에 이른다. AI 모델을 학습하려면 수천억달러 규모의 인프라 투자가 필요하고, 서비스(추론)를 제공하려면 또 그만큼 비용이 많이 든다. 그렇게 큰돈을 투자하고 이익을 내려면 소비자에게 얼마를 받고 서비스를 제공해야 할까. 스마트폰이 한 대에 1천만원이었다면 전세계적으로 확산되지 못했을 것이다.

AI 서비스는 기능도 기능이지만 구현하는 데 비용이 너무 많이 든다. 엔비디아의 영업이익률이 70%인데, 그래도 안 쓸 수가 없다. 수많은 반도체 회사가 엔비디아 독점 구조를 깨기 위해 도전하지만, 아직 엔비디아 GPU를 대체하거나 심지어 보완할 만한 반도체는 없다. 월 20달러를 내는 소비자 입장에서는 ‘그래도 이 정도 가격이면 쓸 만한 거 아닌가’라고 생각할 수도 있다. 빅테크 업체들이 손해 보며 책정한 가격이다. 이 가격으로는 절대 이익을 낼 수 없다. ‘AI 버블론’이 나오는 이유다.

구글 TPU, GPU와 경쟁 선언

엔비디아의 공고한 장벽에 구글 텐서처리장치(TPU)가 균열을 냈다. 구글이 발표한 ‘제미나이 3.0’은 기존 모델을 압도하는 성능을 보여줬다. 세계 최고의 모델을 구현했다는 것은 구글 TPU가 충분히 뛰어나다는 것을 방증한다.

구글은 TPU를 내부용으로만 써왔다. 구글이 TPU 개발을 시작한 것은 2013년, 공식적으로 외부에 발표한 것은 2017년이다. 외부 판매를 꺼렸기 때문에 엔비디아와는 경쟁 관계에 있지 않았다. 그런데 앞으로는 다른 기업에도 판매하겠다고 밝혔다.

미국 시장조사업체 세미애널리시스(SemiAnalysis)에 따르면 구글 TPU의 총비용(TCO)은 엔비디아 최신 제품 ‘GB200 그레이스 블랙웰 슈퍼칩’보다 44% 낮다. 구글이 외부에 팔 때 마진을 붙여 팔더라도 30% 정도 낮은 비용을 달성할 수 있다. 앤트로픽은 수백억달러를 투자해 100만 장의 TPU를 활용하는 계약을 체결했다. 메타도 2027년부터 자사 데이터센터에 TPU를 도입하겠다고 밝혔다.

AI 반도체가 어느 정도 성능을 내는지를 객관적으로 평가하기는 쉽지 않다. 여러 반도체 회사는 자사 제품이 엔비디아의 GPU보다 나은 성능을 낼 수 있다고 광고하지만, 실제 그런 성능을 낼 수 있는지는 확인하기 힘들다. 그래서 누가, 어느 정도 규모로 사는지가 중요하다. 대규모 데이터센터를 운영하는 빅테크가 큰 규모로 산다는 것은 검증됐다는 의미이다. ‘엔비디아 철옹성’에서 유의미한 첫 균열이다.

엔비디아가 절대 강자로 군림하지만, 더 싸게 AI 인프라를 구축하려는 노력이 지속되고 있다. 구글이 균열을 일으키자 아마존웹서비스(AWS)도 거들고 나섰다. 연례 콘퍼런스 ‘AWS 리인벤트(re:Invent) 2025’에서 자체 개발한 AI 반도체 ‘트라이니움3’(Trainium3)를 출시했다고 발표했다. 전작보다 성능이 4배 이상 개선됐고, 전력 대비 성능비는 5배가 증가했다.

AI 반도체는 단일 성능만으로는 부족하다. AI 연산은 규모가 엄청 크기 때문에 여러 반도체를 연결해 써야 한다. AWS는 트라이니움3를 최대 144개 연결한 울트라서버도 같이 출시했다. 차기작인 트라이니움4에 대한 언급도 있었다. 맷 가먼 AWS 최고경영자(CEO)는 “트라이니움4는 연산 성능이 6배 향상되고, 메모리 대역폭이 4배 늘어날 것”이라고 설명했다.

구글과 아마존의 반격으로 하루아침에 엔비디아 생태계가 무너질 가능성은 없다. AI 연산은 반도체 성능만 뛰어나다고 해결되지 않는다. 좋은 반도체가 있어도 AI 개발자들이 사용할 도구가 잘 구비되지 않으면, 아무도 그 반도체를 쓰려 하지 않을 것이다. 인텔 중앙처리장치(CPU)가 전세계 컴퓨터(PC)를 휘어잡을 수 있었던 데는 마이크로소프트의 윈도라는 소프트웨어 파트너가 있었다.

엔비디아 GPU를 사용하기 위해 모든 개발자는 엔비디아가 제공하는 쿠다(CUDA) 아키텍처를 쓴다. 구글은 자체 소프트웨어를 써왔기 때문에 외부 사람이 곧바로 구글 TPU를 사용할 수는 없다. 앤트로픽의 경우 구글 출신 개발자가 많아 그나마 구글 TPU를 활용할 수 있을 것으로 보인다.

대부분의 사람은 구글 TPU를 활용하기가 힘들다. 세미애널리시스는 구글이 외부 판매를 본격화하려면 더 많은 개발자가 자유롭게 소프트웨어 최적화를 할 수 있도록 인프라 소프트웨어를 오픈해 접근성을 높여야 한다고 조언한다.

무어스레드 주가 폭등

엔비디아 GPU를 향한 도전이 미국에서만 일어나는 것은 아니다. 중국의 AI 반도체 업체 무어스레드(Moore Threads)가 2025년 12월5일 상하이증시에 상장했다. 첫날 주가가 502% 급등했다. 무어스레드는 상장 공모에서 80억위안(약 1조6천억원)을 조달했다.

무어스레드는 엔비디아의 전 중국총괄인 장젠중이 2020년 창업했다. 반도체 시장점유율은 1%도 안 된다. 하지만 투자자들은 미국 의존도를 줄이기 위해 중국 정부가 적극적으로 무어스레드를 지원하리라는 데 주목한다.

무어스레드는 미국의 수출통제 대상 기업에 추가돼 대만 티에스엠시(TSMC)에 위탁생산을 할 수도 없어 중국 업체인 에스엠아이시(SMIC)를 이용한다. 그럼에도 무어스레드의 매출은 2022년 650만달러에서 2024년 6196만달러로 급증했고, 2025년 상반기에만 9931만달러를 기록했다. 누적 순손실은 7억달러이지만, 중국 정부의 뒷배가 있는 이상 망할 것 같지는 않다.

중국의 대표적 AI 반도체 기업인 캠브리콘은 2026년 AI 반도체 생산 목표를 50만 장 수준으로 설정했다. 2025년 약 14만 장의 세 배가 넘는 규모다. 이들은 성능으로 엔비디아 GPU에 도전하는 수준은 아니다. 하지만 수출통제를 무기로 삼는 미국 AI 반도체에 의존하지 않으려는 중국 정부의 필요에 따라 시장을 확대해가고 있다.

아직 가시적인 성과를 내고 있지는 않지만 ‘제3의 세력’도 있다. 독점적 사익만을 추구하는 미국 빅테크에 종속될 것인가, 중국 공산당의 영향을 받는 중국 빅테크에 종속될 것인가. 그 어느 쪽도 선택하고 싶지 않은 주체들이다.

아랍에미리트(UAE)와 한국은 엔비디아 그래픽처리장치(GPU)를 기반으로 데이터센터를 만들지만, 그 경험을 바탕으로 ‘탈엔비디아 생태계’를 만드는 데까지 협력하려 한다. 배경훈 부총리 겸 과학기술정보통신부 장관과 칼둔 칼리파 알무바라크 UAE 아부다비 행정청장이 2025년 11월18일 아부다비 대통령궁에서 이재명 대통령과 무함마드 빈 자이드 알 나흐얀 UAE 대통령이 참석한 가운데 전략적 AI 협력을 위한 양해각서를 체결한 뒤 기념사진을 찍고 있다. 연합뉴스

AI 생태계는 국가안보적으로 너무 중요해 미국이나 중국에 의존하고 싶지 않은 국가들이 있다. 최근 이재명 대통령은 아랍에미리트(UAE)를 방문해 ‘UAE 스타게이트 프로젝트’를 공동 추진하기로 했다. 또한 ‘전략적 AI 협력 프레임워크’ 양해각서를 체결했다.

UAE는 50조원 넘는 자금을 투자해 5기가와트(GW) 규모의 AI 데이터센터 건립을 추진하고 있다. 최첨단 AI 데이터센터를 구축하려면 엔비디아 GPU가 필요하고, 미국의 도움을 받아야 한다. 그럼에도 UAE가 한국과 손잡으려는 데는 이유가 있다. 대규모 AI 데이터센터를 지으려면 원자력·태양광·가스 발전을 활용한 에너지가 필요하다. 데이터센터에는 GPU 외에 냉각, 에너지저장장치(ESS), 전력 인프라가 필요하다. 엔비디아 GPU를 사서 쓰더라도 인프라 구축엔 또 다른 파트너가 필요하다.

한국은 UAE 바라카 원전을 지은 경험이 있다. UAE와 한국은 당장은 엔비디아 GPU를 기반으로 데이터센터를 만들지만, 그 경험을 바탕으로 ‘탈엔비디아 생태계’를 만드는 데까지 협력하려 한다. UAE와 같은 욕구를 가진 국가는 무수히 많다. 그들이 첫 번째 파트너로 떠올리는 국가는 민주적 정치체제를 갖추고 있고 한 번도 다른 나라를 식민지배한 적이 없으며, AI·정보기술(IT)·제조업 등에서 산업 경쟁력을 가진 나라, 바로 한국이다.

하정우 대통령실 AI미래기획수석은 “단순히 UAE에 우리 제품을 수출하는 것을 넘어 전체 프로젝트에 한국 기업이 광범위하게 참여하고, 그렇게 만들어진 솔루션을 중동·동남아·아프리카 등 다른 나라에 공동 수출하는 구조로 발전하는 것을 염두에 둔 사상 유례없는 ‘국가 대 국가 AI 인프라 동맹’이 설립된 것”이라고 설명했다.

한국의 기회

엔비디아 독점 체제는 영원히 유지될 수 없다. AI 확산을 위해서는 비용이 낮아져야 하고, 경쟁체제로 전환될 수밖에 없다. 더 저렴한 인프라를 원하는 기업, 기술 주권을 지키려는 국가들이 집단적으로 움직이기 시작했다는 점에서 균열은 이미 시작됐고 그 폭은 점점 커질 것이다.

AI 반도체 패권 싸움은 이제 단순한 기술 경쟁이 아니라 비용·에너지·안보·지정학이 교차하는 복합전이다. 이 격변의 한가운데에서 한국은 원전·전력·AI·메모리·제조를 모두 갖춘 드문 국가로서 새로운 국제 AI 질서를 재편할 기회를 맞이하고 있다는 점을 명심해야 한다.

권순우 삼프로TV 취재팀장 soon@3protv.com

권순우는 경력 15년의 현직 기자다. 금융, 산업 등 다양한 영역을 취재하며 생생한 현장을 전한다. 서강대학교를 졸업하고 ‘머니투데이방송’을 거쳐 현재는 ‘삼프로TV’에서 ‘압도적 권순우: 압권’ 프로그램을 진행하고 있다. 저서로 ‘격변과 균형’ ‘수소전기차 시대가 온다’가 있다.