에이전틱 AI 특수에 추론용 데이터센터 분산 속도 구글, 자체 개발 칩 'TPU' 외부 판매로 수익 창출 본격화 GPU 중심 생태계 흔들..엔비디아-네오클라우드 입지 위협
구글 본사./사진=뉴시스
구글이 자체 개발한 AI 반도체인 텐서처리장치(TPU) 상용화에 나서며 에이전틱 AI 시장에서 영향력을 키우고 있다. AI 데이터센터 분야 최대 투자사로 부상한 블랙스톤과 AI 클라우드 합작사를 차려 독자 칩의 외부 판매를 본격화하려는 시도다. 엔비디아 그래픽처리장치(GPU)의 대항마로 떠오른 TPU의 부상은 한국 메모리업계에도 새로운 성장 기회가 될 것으로 전망된다.
19일(현지시각) 월스트리트저널에 따르면 이 합작회사는 구글의 특화 칩 TPU를 사용하는 500메가와트 용량의 데이터센터를 운영할 예정이다. 블랙스톤은 컴퓨팅 투자에 250억달러를 지원한다. AI 주력 산업이 생성형 AI에서 에이전틱 AI로 전환하면서 학습보다 추론 영역이 중요해진 흐름을 반영한 결정이라는 분석이다. 구글은 지난달 AI 추론에 특화한 칩 8세대 TPU를 공개하며 AI 반도체 시장에서 입지를 늘리고 있다.
이번 구글의 결정은 엔비디아에 위협적이라는 평가다. 엔비디아 GPU를 대거 사들이며 신흥 클라우드 사업자로 성장한 코어위브, 네비우스 같은 '네오클라우드' 입지도 흔들릴 수 있다. 이들은 엔비디아 투자를 발판 삼아 GPU를 대량 구매하고 오픈AI와 메타, 마이크로소프트, 앤트로픽 등 대형 IT기업들을 고객사로 영입하며 급성장해왔다. 대표 기업인 코어위브는 올 1분기 매출이 20억달러를 웃돌고, 미이행 계약까지 더하면 예상 매출은 1000억달러에 달한다.
구글의 TPU는 에이전틱 AI 특수를 맞은 현 시점에서 엔비디아 GPU의 대항마로 주목받고 있다. 엔비디아 GPU는 범용성이 강점이지만 연산 때마다 메모리에서 데이터를 가져오고 저장해야 하기 때문에 전력 효율이 상대적으로 낮다. 데이터 이동과 저장이 거듭 반복되는 추론 AI에선 비효율적인데다 엔비디아 쏠림으로 인한 공급 부족과 그에 따른 비용 부담도 단점으로 거론된다.
이와 달리 TPU는 한 번 입력한 데이터를 재사용할 수 있고 행렬 연산에 특화한 설계로 특히 추론 영역에서 우위를 점하고 있다. 시장에선 구글 TPU 채택 사례도 늘고 있다. 지난해 앤트로픽이 구글 TPU 100만개를 사들였고, 메타와도 2027년 데이터센터용 공급 계약을 체결했다.
구글 TPU 부상이 AI 칩 다극화를 이끌면서 국내 메모리 반도체 업계에 더 큰 성장 기회가 열릴 거란 기대가 나온다. 반도체 업계에 따르면 지난해 기준 구글 TPU에 들어가는 고대역폭메모리(HBM) 물량의 60% 이상을 삼성전자가 공급했다. SK하이닉스가 엔비디아 물량 비중이 큰 점을 감안하면 생산 능력 면에서 올해도 삼성의 공급 확대가 예상된다. 증권가에선 삼성의 구글향 HBM 물량이 두 배 이상 늘 거란 관측을 내놓는다.
추론용 칩인 TPU 8i에는 전작보다 많은 HBM3E이 탑재된다. HBM 옆에는 저전력 LPDDR이 모듈 형태로 붙고 낸드도 필수 부품으로 쓰인다. 메모리 사용량을 줄일 구글 터보퀀트 기술에 대한 위기감이 있지만 당분간 수요 증가에 걸림돌이 되지 않을 거란 분석이다. 손인준 유진투자증권 연구원은 "구글 TPU 다이렉트 스토리지 같은 신규 플랫폼은 고성능 TCL eSSD 수요 성장을 이끄는 핵심 동인이 될 것"이라고 했다.
데이터센터 과부하로 기업들이 개별 서버를 구축하는 온프레미스가 확산할수록 메모리 중심의 생태계가 더 확고히 잡을 것으로 보인다. 특히 AI 확산의 큰 걸림돌인 전력 소모를 해결할 핵심 부품인 LPDDR이 주목받고 있다. 실제 내년 엔비디아 AI 서버에 들어갈 LPDDR 용량은 60억4100만 기가바이트(GB)로 올해 보다 2배 이상 늘어날 전망이다.
유회준 반도체공학회장은 "HBM과 GPU 중심의 현 데이터센터는 전력 소모가 너무 커서 자체 서버로 분산하는 형태가 가속화할 것"이라며 "저전력 D램인 LPDDR-PIM이 AI 핵심 메모리로 부상하고 있다"고 했다.
