“AI칩 시장, 엔비디아가 다 먹게 할 순 없다”…구글이 들고 나온 ‘회심의 한방’

GPU보다 빠르고 효율적인
TPU로 클라우드 시장 공략
AI 개발 SW 생태계도 구축
엔비디아 독주 체제에 균열

구글이 인공지능(AI) 반도체 시장에서 엔비디아의 독점 구도에 도전장을 던졌다. 그동안 엔비디아의 GPU를 대량 구매해 구글 클라우드 데이터센터에 탑재한 뒤 고객사에 임대해온 구글이 이제는 자사 칩인 ‘텐서 프로세싱 유닛(TPU)’을 외부 데이터센터에 공급하기 시작한 것이다.

구글의 TPU ‘아이론우드’. [구글]

3일(현지시간) IT 전문 매체 더 인포메이션에 따르면 구글은 최근 중소 규모 클라우드 업체들과 접촉해 TPU 도입을 제안한 것으로 알려졌다. 영국 런던에 본사를 둔 ‘플루이드스택’과는 계약을 맺고 뉴욕에 신설되는 데이터센터에 TPU를 설치하기로 했다. 이는 구글이 자체 시설이 아닌 외부 데이터센터에 TPU를 배치하는 첫 사례가 될 전망이다.

이번 행보를 두고 시장에서는 두 가지 해석이 나온다. 자체 데이터센터 확충이 수요를 따라가지 못해 외부 시설을 활용한다는 분석과 외부 클라우드 업체를 통해 TPU 고객 기반을 새롭게 확대하려는 전략이라는 해석이다. 후자의 경우 구글은 엔비디아와 사실상 칩 공급 ‘경쟁자’로 부상하게 된다.

구글이 2016년 선보인 TPU는 이세돌 9단과의 바둑 대결에서 승리를 거머쥔 알파고에 적용됐던 AI 칩이다. ‘텐서(다차원 데이터)’라는 이름처럼 딥러닝에 필요한 복잡한 수학 계산(행렬 연산)을 GPU보다 잘 처리하도록 설계된 AI 전용 칩이다. GPU가 원래 게임 그래픽 처리용으로 개발된 뒤 AI 학습에 활용된 것이라면 TPU는 처음부터 AI 연산만을 위해 만든 맞춤형 칩이라는 점이 다르다. 덕분에 특정 작업에서 전력 소모가 낮고 속도가 빠르다는 장점을 가지고 있다. 구글은 지금까지 TPU를 직접 판매하지 않고 자사 클라우드를 통해서만 제공해 왔다. 이는 검색과 유튜브 등 내부 서비스 최적화와 GPU 구매 비용 절감 등 전략적 이유 때문이다.

하지만 올해 들어 이러한 기류에 변화가 생기고 있다. 지난 4월 구글은 외부 개발자에 대형언어모델(LLM) 훈련에 쓰던 모델 파이프라인 솔루션 ‘패스웨이(Pathway)’를 공개했다. LLM 같은 모델을 훈련할 때 필요한 설명서로 이를 활용하면 연구자들이 새로 설계할 필요 없이 제미나이와 같은 LLM을 개발할 수 있다. 구글은 TPU(하드웨어)와 TPU를 쓰는데 필요한 소프트웨어인 JAX(작스), LLM을 채팅과 같은 서비스로 사용할 수 있게 해주는 소프트웨어 ‘맥스 텍스트(MaxText)’, 여기에 패스웨이까지 공개하며 AI 개발에 필요한 전 과정을 구글 생태계 안에서도 할 수 있음을 알렸다. 엔비디아와의 경쟁이 가능함을 선언한 셈이다.

TPU 사용자도 늘어나고 있다. 미국 투자사 D.A 데이비드슨이 지난 2일 발표한 보고서에 따르면 구글 클라우드에서 TPU를 중심으로 한 개발자 활동이 지난 6개월 동안 약 96%나 증가한 것으로 나타났다. 보고서는 지난해 12월 공개한 6세대 TPU인 ‘트릴리움’에 대한 수요도 높을 뿐 아니라 올해 말 출시가 예정된 대규모 추론용 TPU ‘아이언우드’에 대한 관심도 높아지고 있다고 분석했다. D.A데이비드슨은 “점점 더 많은 연구기관과 기업에서 관심과 수요가 증가하고 있다”라며 “구글의 TPU는 현재 중국 기업보다 엔비디아 칩에 대한 최고의 대안으로 떠오르고 있다”라고 적었다.

엔비디아의 GPU ‘블랙웰’. [엔비디아]

엔비디아는 AI 훈련용 GPU 시장에서 점유율 80~90%를 차지하며 사실상 독주 체제를 구축하고 있다. 데이터센터 시장만 높고 보면 올해 3월 기준 92%의 점유율로 AMD(4%) 등 경쟁사들을 압도하고 있다.

GPU는 엔비디아가 개발한 전용 소프트웨어(SW)인 ‘쿠다’에서 작동하는데, 이 SW가 사실상 업계 표준이 된 만큼 많은 기업과 개발자들이 엔비디아 제품에 묶여 있는 상황이다. AWS, 마이크로소프트 애저, 구글 클라우드 같은 대형 사업자들 역시 엔비디아 GPU를 대량 구매해 고객에 제공해왔다.

TPU의 외부 공급 본격화와 주요 기업들이 엔비디아 의존도 줄이기에 나서면서 데이터센터 반도체 시장의 판도 변화가 가시화될 수 있다는 전망이 나온다.

■ TPU란? 구글이 머신러닝용으로 개발한 AI 반도체. 연산 처리 기능을 담당하는 프로세서의 한 종류로 데이터를 저장하는 메모리 반도체와는 구분된다.