AI 에이전트 시대 온다...CPU로 옮겨붙은 빅테크 'AI칩' 경쟁

추론형 AI 에이전트 부상…CPU 역할 커져
병렬 연산보다 전체 워크로드 지휘에 방점
美·中 등 글로벌 빅테크 앞다퉈 CPU 출시

[이데일리 공지유 기자] 최근 인공지능(AI) 시장의 무게추가 학습에서 추론으로 본격적으로 이동하면서, 대랑 연산을 담당하는 그래픽처리장치(GPU)뿐 아니라 빠른 응답을 처리하고 작업을 조율하는 중앙처리장치(CPU)의 중요성이 커지고 있다. 글로벌 기업들도 CPU를 중심으로 한 AI 칩을 내놓으면서 시장 공략에 나서고 있다.

르네 하스 Arm 최고경영자(CEO)가 24일(현지시간) 공개한 AI 데이터센터용 중앙처리장치(CPU)인 'Arm AGI CPU'를 들어 보이고 있다.(사진=Arm)

25일 업계에 따르면 영국 반도체 설계기업 암(Arm)은 24일(현지시간) AI 데이터센터용 CPU인 ‘Arm AGI CPU’를 출시한다고 밝혔다. 그동안 Arm은 반도체 설계를 통해 지식재산권(IP) 수수료를 받는 것을 주요 사업 모델로 했는데, 창사 35년여 만에 자체 칩 판매에 나서는 것이다.

Arm이 내놓은 CPU는 AI 에이전트를 겨냥해 만든 제품이다. 스스로 판단해 작업을 수행하는 AI 에이전트의 핵심 인프라 역할을 할 것으로 전망된다. 해당 칩은 300와트(W) 전력 내 최대 136개의 코어가 작동하도록 설계됐다.

그동안 AI 데이터센터용 AI칩에서는 GPU와 고대역폭메모리(HBM) 등 메모리 반도체가 주목을 받았다. GPU가 대규모 연산을 처리할 수 있는 능력을 가진 만큼 AI 모델 학습에서 필수적인 인프라기 때문이다. 이에 빅테크 기업들 역시 GPU를 중심으로 AI 가속기 성능을 내세웠다.

AI 시대가 학습에서 추론으로 이동하면서 이같은 흐름도 바뀌고 있다. AI 에이전트가 부상하면서 GPU의 성능보다는 AI 칩에서 시스템을 효율적으로 조율하는 능력이 더 중요해졌기 때문이다. 이처럼 데이터를 준비하고 조율하는 등 전체적인 작업을 지휘하는 역할은 CPU가 맡고 있다. GPU가 단순한 작업을 병렬적으로 처리하는데 강점을 가지고 있다면, CPU는 AI 에이전트에서 데이터베이스 조회, 도구 활용 등 작업을 맡는 동시에 전체 워크플로우를 지휘한다.

이같은 상황에서 글로벌 빅테크 기업들은 앞다퉈 AI 에이전트에 적합하게 성능을 개선한 CPU 기반 AI 칩을 내놓고 있다. 엔비디아는 이달 미국 캘리포니아주 새너제이에서 열린 엔비디아 연례 개발자회의 ‘GTC 2026’에서 ‘베라 루빈’ AI 가속기에서 CPU만 떼어낸 베라 CPU를 단독 판매하겠다고 밝혔다. 이는 256개의 베라 CPU를 통합한 랙으로 구성됐다.

중국 빅테크 알리바바도 최근 차세대 플래그십 CPU인 ‘쉬안톄 C950’을 공개했다. 이 제품은 자체 개발한 AI 가속 엔진을 탑재했으며 생성형 AI, 고성능 로봇, 엣지 컴퓨팅 등에 적합한 CPU다. 알리바바는 이를 통해 AI 에이전트 시장에서 사업을 강화한다는 계획이다.

김형준 서울대 명예교수(차세대지능형반도체 사업단장)는 “AI 가속기 아키텍처가 GPU 중심에서 추론형에 적합한 모델로 변화하고 있다”며 “이를 통해 데이터센터 병목을 해결하려는 구상으로 보인다”고 말했다.

공지유 (noticed@edaily.co.kr)