2라운드 접어든 脫엔비디아 전쟁...AI칩 성능보다 비용 경쟁

MS, AMD AI 시스템 도입
구글, ‘제미나이’ 맞춤형 칩 개발

챗GPT 생성 이미지/GPT

인공지능(AI) 반도체 시장에서 엔비디아 독주를 깨기 위한 ‘탈(脫)엔비디아 전쟁’이 2라운드에 접어들었다. 그동안 빅테크가 엔비디아를 대체할 개별 고성능 AI 칩 개발을 통해 탈엔비디아에 나섰다면 이제는 AI 시스템 전체의 효율을 높이는 데 집중하고 있다. 연산 성능을 넘어 전력 효율과 토큰당 연산 비용을 얼마나 낮출 수 있느냐가 새로운 승부처로 떠오른 것이다.

미국의 칩 제조사 AMD는 올해 말부터 헬리오스 AI 인프라 시스템을 마이크로소프트(MS)에 공급한다고 20일(현지 시각) 밝혔다. MS는 헬리오스를 활용해 최첨단 AI 모델의 추론 작업과 클라우드 서비스인 애저 AI 서비스를 운영할 계획이다. 기존 고객인 메타, 오픈AI, 오라클에 이어 MS까지 합류하면서 AMD의 AI 인프라 고객군이 확대됐다.

헬리오스는 AMD의 GPU와 CPU, 네트워크 장비, 소프트웨어를 서버 캐비닛 하나에 통합한 AI 훈련·추론용 시스템이다. 개별 가속기가 아니라 데이터센터에 곧바로 설치할 수 있는 완성형 슈퍼컴퓨터를 판매하는 것이다. 엔비디아 역시 그레이스 블랙웰과 차세대 베라 루빈을 이 같은 랙 시스템 형태로 공급하고 있는데, AMD도 AI 칩을 넘어 통합 AI 인프라 시장에 본격 뛰어든 것이다.

AMD는 이를 통해 엔비디아가 주도하는 AI 칩 시장에 균열을 내고, ‘탈엔비디아’ 수요를 본격적으로 흡수하겠다는 구상이다. 현재 AI 데이터센터 AI 칩 시장은 엔비디아가 95% 이상 차지하고 있다. AMD 점유율은 약 4.5%에 그치지만, 개별 칩을 넘어 AI 시스템 전체를 공급하는 헬리오스를 앞세워 기업 고객 확보에 속도를 낼 수 있을 것이란 전망이 나온다. 퓨처럼그룹의 대니얼 뉴먼 최고경영자(CEO)는 “AMD가 시장점유율을 20~25%까지 확대할 가능성이 있다”고 했다.

구글은 AI 모델 제미나이에만 최적화한 전용 칩을 ‘프로즌 v2′라는 내부 코드명으로 개발하고 있다. 제미나이의 데이터 처리 방식과 가중치 등을 사전 내장하자는 제프 딘 구글 수석 과학자의 아이디어를 적용한 것으로, 2028년 서버 배치가 목표다. 이 칩으로 제미나이를 구동하면 전력 단위당 처리 토큰 양이 6∼10배 효율적이며 응답 속도도 빨라질 것이라고 구글은 예상하고 있다.

구글은 자체 AI 칩인 텐서처리장치(TPU)도 개발 중이다. 이에 더해 맞춤형 칩을 개발하는 것은 AI 연산 자원 부족 사태가 그만큼 심각하기 때문이라는 분석이다. 실제 구글은 컴퓨팅 파워 부족 문제 때문에 최근 스페이스XAI에 매월 9억2000만달러(약 1조3600억원)를 지불하며 데이터센터를 임차하는 계약을 체결했으며, 자사의 AI 모델을 이용하는 경쟁사 메타의 사용량을 제한하기도 했다.

이 같은 시도는 모두 AI 칩 최강자인 엔비디아에 대한 의존도를 줄이고, 적은 비용으로 더 많은 AI 연산을 처리하기 위해서다. 그간 ‘탈엔비디아’ 움직임의 핵심은 GPU를 대체할 고성능 칩 개발이었다면, 이제는 AI 연산 효율을 높이는 AI 인프라 개발이 중요해진 것이다.

로이터통신은 맞춤형 칩 개발 소식을 전하며 “구글이 AI 컴퓨팅 용량 부족으로 압박을 받고 있다”고 보도했고, 미 금융 전문 매체 배런스는 “MS가 AMD 기술로 에너지 효율을 최적화하려 한다”고 분석했다.