구글, 8세대 AI칩 'TPU 8t·8i' 공개…훈련용·추론용으로 분리

와트당 성능 최대 2배…CPU도 자체 설계 '액시온'으로 교체
"구글 AI하이퍼컴퓨터의 핵심 기반"…HBM 공급업체는 공개 안해

(라스베이거스=연합뉴스) 권영전 특파원 = 구글이 인공지능(AI) 에이전트 시대 준비를 위한 8세대 AI칩 두 종류를 한꺼번에 공개했다.

구글은 22일(현지시간) 미국 라스베이거스 만달레이베이 컨벤션센터에서 개최한 '구글 클라우드 넥스트' 행사를 통해 훈련과 추론에 각각 최적화한 텐서처리장치(TPU)인 'TPU 8t'와 'TPU 8i'를 선보였다.

칩 이름에서 '8'은 8세대를, 't'와 'i'는 각각 훈련(training)과 추론(inference)을 뜻한다.

TPU 8t는 높은 연산 처리량과 공유 고대역폭메모리(HBM) 등을 활용해 전작인 7세대 '아이언우드'와 비교해 처리 능력을 3배로 끌어올렸다.

칩 간 연결(ICI) 기술을 활용해 칩을 최대 9천600개까지, HBM 용량을 최대 2PB(페타바이트·TB<테라바이트>의 약 1천 배)까지 확장해 훈련 성능과 속도를 높일 수 있는 것이 특징이다.

이 칩을 이용하면 최첨단 모델의 개발 기간을 몇 개월에서 몇 주로 단축할 수 있다고 구글은 설명했다.

구글에 따르면 추론에 최적화한 TPU 8i는 HBM 288GB에 속도가 빠른 S램 384MB를 함께 탑재한 데다 칩 간 데이터 이동 경로를 절반 이상 단축해 AI의 답변이나 결과물을 지연 없이 즉각 제공한다.

일반적인 AI 챗봇의 응답은 물론이고, 로봇이나 에이전트를 구동할 때 작업의 병목이 발생하는 것을 막을 수 있다는 것이다.

이를 통해 8i는 전작인 '아이언우드'와 비교해 달러당 성능을 80% 높일 수 있었다고 회사 측은 전했다.

토머스 쿠리안 CEO는 AI 칩을 두 종류로 나눈 이유에 대해 "생성 AI가 폭넓게 확산했을 때 사람들이 학습에 최적화한 시스템과 추론에 맞춘 시스템을 각각 원할 것으로 판단했다"고 설명했다.

쿠리안 CEO는 이어 "AI 인프라 확장에서 전력이 제약 요인이 될 것을 예상하고 설계 단계부터 에너지 효율을 극대화하는 데 중점을 뒀다"고 부연했다.

실제로 8t와 8i 모두 와트당 성능을 아이언우드의 최대 2배까지 끌어올렸다.

구글은 전력 효율을 위해 중앙처리장치(CPU)도 인텔·AMD 제품 대신 자체 설계한 액시온(Axion)으로 교체했다.

8세대 TPU 2종과 액시온이 엔비디아의 그래픽처리장치(GPU)와 함께 구글의 AI 하이퍼컴퓨터의 핵심 기반이 된다고 구글은 밝혔다.

구글이 추론용 칩을 따로 선보이고, 전력 효율성도 높인 것은 AI 발전의 흐름이 로봇과 에이전트로 이어지고 있기 때문이다.

수많은 로봇과 에이전트가 각기 업무를 나눠 사고나 실수 없이 처리하려면 빠르고 저렴한 추론이 필수적이라는 설명이다.

TPU 개발을 총괄하는 아민 바닷 구글 수석부사장은 전날 사전행사에서 구글은 내부적으로 2년 전부터 에이전트에 대해 얘기를 해왔고, 이에 따라 칩을 두 가지로 나눠 내기로 한 결정도 2년 전에 이뤄졌다고 설명했다.

바닷 부사장은 이들 칩에 들어가는 HBM의 공급 업체가 어디인지에 관한 질문에 "공급업체에 대해서는 언급하지 않는다"고 답했다.

comma@yna.co.kr

▶제보는 카톡 okjebo

국제