엔비디아 없이 ‘제미나이3’ 만든 구글…AI 판도 흔들

TPU 기반 LLM 학습 성공…GPU 의존 구조 균열
국내 NPU 업계 “추론용 대체 시장 형성 중

▲ 구글 제미나이 3.0 출시

구글의 새 인공지능(AI) 모델 제미나이3은 엔비디아 GPU 없이도 고성능을 구현하며 업계의 고정관념을 흔들었다. 구글은 자체 개발한 AI 가속기 텐서처리장치(TPU)를 기반으로 제미나이3과 이미지 생성·편집 도구 ‘나노 바나나 프로’를 완성했다.

제미나이3은 스스로의 개발 과정을 설명하며 구글이 ‘TPU-XLA-JAX-A3·A4 슈퍼컴퓨터 구조’를 활용해 새로운 학습 방식을 설계했다고 밝혔다. 이어 “일반인도 쉽게 이해할 수 있도록 복잡한 기술 구조를 AI를 훈련하는 ‘거대한 공장 시스템’에 비유하겠다”고도 말했다. TPU는 범용 연산을 담당하는 칩과 달리 AI 핵심 연산만 초고속으로 처리하는 전용 계산 기계이며, 수천 개의 TPU를 고속 통신망으로 묶어 하나의 기계처럼 동작하도록 만든 것이 A3·A4 슈퍼컴퓨터라는 설명도 덧붙였다.

제미나이3은 또 “아무리 좋은 하드웨어가 있어도 이들을 효율적으로 움직이고 작업을 할당하는 소프트웨어가 필요하다”며 JAX가 모델 설계를 TPU용 코드로 자동 변환하는 프레임워크, XLA가 여러 TPU로 계산을 최적 배분하는 시스템이라고 설명했다.

구글 TPU의 성과는 국내 신경망처리장치(NPU) 업계에도 신호탄이 되고 있다. 그동안 AI 학습은 엔비디아 GPU 의존도가 절대적이었지만, 구글이 독자 인프라로 성능을 끌어올린 사례는 “정해진 답이 없다”는 점을 보여주며 기술 개발 유인을 강화하고 있다는 분석이다.

국내 NPU 업계 관계자는 “TPU가 메타 등 외부 데이터센터에 공급되는 것은 추론 시장에서 엔비디아 GPU의 대체제가 실제로 형성되고 있다는 것”이라며 “이를 기반으로 맞춤형 AI 칩(ASIC)의 추론 전용 칩 도입 논의도 확산할 것”이라고 말했다.

딥엑스 관계자는 “엔비디아가 쿠다 생태계와 NV링크·인피니밴드로 구축한 기술적 해자를 구글 TPU 설계를 지원한 브로드컴 토마호크 기술이 넘어서며 2배 빠른 통신 속도를 냈다”고 분석했다. 이어 GPU 비용 문제를 해결할 대안으로 TPU를 주목할 수 있다고 전망했다.

써로마인드 장하영 대표는 “오픈AI나 딥시크도 쿠다를 쓰지 않고 자체 개발 프레임워크를 활용해 모델을 만들며 경쟁력을 확보하고 있다”고 강조했다. 그는 “우리나라 AI 업계와 당국이 뒤늦게 개발 프레임워크 연구를 시작했지만 NPU 고도화 등 기술 개발에 집중한다면 가능성이 있다. AI 모델·AI 반도체 모두 미래를 단정할 수 없는 상황”이라고 말했다.
 

#엔비디아 #프레임워크 #슈퍼컴퓨터 #시스템 #인공지능 #구글 #제미나이3.0