구글이 ‘제미나이3’를 공개하면서 TPU로 학습했다는데...TPU는 무엇?

[WEEKLY BIZ] [깨알 5Q] 구글이 직접 설계한 전용 반도체 칩

구글 클라우드 7세대 TPU(텐서처리장치) 아이언우드. /구글 클라우드 제공

구글의 TPU(텐서 처리 장치)가 엔비디아의 GPU(그래픽 처리 장치)의 대항마로 떠오를까. 지난달 구글은 새 인공지능(AI) 모델 ‘제미나이3’를 공개하면서 “모델 학습에 자체 개발한 7세대 TPU ‘아이언우드’를 사용했다”고 밝혔다.

◇Q1. TPU란

TPU는 구글이 직접 설계한 전용 반도체 칩으로, 머신러닝(기계 학습)과 딥러닝(심층 학습) 연산을 빠르게 처리하도록 고안됐다. 이름처럼 텐서 처리 장치(Tensor Processing Unit)의 앞글자를 따 만들었다. AI 모델은 ‘텐서’라는 다차원 행렬 데이터로 계산을 하는데, TPU는 이 텐서 연산을 더 빠르고 효율적으로 처리하도록 특화돼 있어 전력 소모도 상대적으로 적다.

◇Q2. CPU·GPU 등과 차이는

CPU(중앙 처리 장치)는 다양한 작업을 순차적으로 처리하도록 설계된 범용 칩이다. GPU는 원래 게임 그래픽 처리를 위해 만들어졌지만, 병렬 연산에 강해 최근 AI 연산의 핵심 장치로 자리 잡았다. TPU는 이들과 달리 처음부터 AI 학습·추론 용도로만 설계된 맞춤형 칩(ASIC)이다.

◇Q3. 최근 왜 주목받나

지난달 18일 공개된 구글의 새 AI 모델 ‘제미나이3’가 챗GPT를 위협하는 성능을 보이자, 이를 학습시킨 TPU까지 함께 주목받고 있다. 구글의 TPU처럼 빅테크들이 직접 개발한 AI 맞춤형 칩이 엔비디아의 GPU가 사실상 독점해 온 AI 칩 시장의 판도를 바꿀 수 있다는 기대감도 커진다. 현재 GPU 기반 AI 칩 시장에서 엔비디아의 점유율은 90%에 달해 GPU 가격 부담과 공급 부족 문제가 심화한 상황이다. 다만 구글 TPU 등장으로 엔비디아가 지배하는 시장 지형이 단기간에 달라지긴 어렵다는 게 업계 분석이다. TPU 등 자체 칩은 자사 서비스에 최적화하도록 개발돼 범용성과 개발 편의성에서 엔비디아의 GPU를 당장 대체하기 어렵기 때문이다.

◇Q4. 다른 빅테크들 상황은

구글 외에도 대규모 컴퓨팅 자원을 필요로 하는 빅테크들은 엔비디아 의존도를 낮추고 자사 서비스에 최적화된 칩을 확보하기 위해 자체 AI 칩 개발에 적극 뛰어들고 있다. 아마존웹서비스(AWS)는 AI 학습용 트레이니움과 추론용 인퍼런시아 칩을 개발해 클라우드 고객들에게 제공하며 시장 점유율을 확대하고 있다. 메타는 페이스북·인스타그램 등 자사 플랫폼 AI에 특화된 ‘MTIA’를 자체 개발해 효율성을 높이고 있다. 오픈AI도 챗GPT의 성능 향상 및 운영 비용 절감을 위해 자체 AI 칩을 개발하는 것으로 알려졌다.

◇Q5. 삼성전자·SK하이닉스에 미치는 영향은

빅테크들이 저마다 자체 칩을 개발하려 경쟁하는 상황은 고대역폭메모리(HBM) 시장을 장악하고 있는 SK하이닉스·삼성전자엔 호재로 평가된다. 엔비디아 GPU만으로는 급증하는 AI 인프라 수요를 감당하기 어려운 상황에서 추가 수요원이 될 수 있기 때문이다. 특히 삼성전자와 SK하이닉스가 구글 TPU 공급망의 핵심으로 자리 잡을 것이라는 전망도 나온다.

최신 글로벌 경제 트렌드를 담은 WEEKLY BIZ 뉴스레터로 당신의 시야를 넓히세요.

WEEKLY BIZ 뉴스레터 구독하기(https://page.stibee.com/subscriptions/146096)