“CPU가 돌아왔다” 컴퓨터 두뇌가 AI 서버 사령관으로[김창영의 실리콘밸리Look]

에이전틱 AI 전환에 서버용 CPU 개발 경쟁
추론 급부상에 GPU에 가려졌던 CPU 부각
엔비디아, 에이전틱 AI 전용 ‘베라 CPU’ 출시
AMD, 차세대 에픽 CPU 시리즈 ‘베니스’ 준비
IP 최강 Arm, 첫 자체 칩으로 CPU 경쟁 가세

르네 하스 Arm 최고경영자(CEO)가 24일(현지 시간) 미국 샌프란시스코 포트 메이슨 예술문화센터에서 연 컨퍼런스에서 첫 출시한 칩을 선보이고 있다. Arm 블로그 캡처

인공지능(AI) 개발이 학습에서 추론 중심으로 재편되면서 반도체 시장에서 중앙처리장치(CPU)를 향한 관심이 뜨겁다. 지난해까지만 해도 대규모언어모델(LLM) 학습용 그래픽처리장치(GPU)가 스포트라이트를 한몸에 받았지만 추론 기반 에이전틱 AI(스스로 판단하고 작업을 수행하는 모델) 시대에는 CPU 성능이 승부처이기 때문이다. ‘컴퓨터 두뇌’라는 수식어가 무색할 정도로 수년 간 GPU 앞에서 기를 펴지 못했던 CPU가 AI 서버 사령관으로서의 위상을 되찾았다는 평가가 나온다.

오픈AI의 AI 챗봇 챗GPT가 등장하면서 하이퍼스케일러(거대 데이터센터 운영사)는 폭발적인 AI 수요를 충족하기 위해 GPU 확보에 매달렸다. 게임 그래픽카드로만 쓰이는 줄 알았던 GPU가 병렬 연산에 뛰어나다는 점이 주목받으면서 데이터센터에 대량의 GPU를 설치하고 동시다발적이고 반복적인 기계학습을 시켰다. 오픈AI·앤스로픽이 AI 모델 개발에 매달리고 구글·아마존·오라클·메타 등이 데이터센터 확장에 나서면서 GPU 수요는 폭증했고 모든 관심은 GPU에 집중됐다.

중앙처리장치라는 이름처럼 컴퓨터, 노트북, 스마트폰, 데이터센터 AI 서버 모두에서 두뇌 역할을 하는 것은 CPU다. CPU는 수많은 GPU가 함께 작동하도록 조율하는 동시에 각종 애플리케이션을 관리하는 데 필수적인 역할을 수행한다. GPU가 선수라면 CPU는 감독이다. CPU가 작전을 지시하고 주전과 후보 선수들을 적절하게 기용하며 경기를 조율한다면, GPU는 CPU 지시에 따라 플레이한다.

PC 시대에는 새로운 컴퓨터나 노트북이 나오면 소비자들이 CPU 사양부터 확인할 정보로 CPU가 주목받았다. 컴퓨터 CPU를 장악한 기업이 인텔이고 인텔은 지금도 PC CPU 시장에서는 선두 기업이다. 하지만 AI 시장에서는 양상이 달랐다. AI 모델의 학습량과 정확도가 중요했기 때문에 CPU보다 GPU에 관심이 집중됐다. 골을 넣는 GPU가 관중들의 주목을 받았다. AI 데이터센터 GPU 시장을 장악한 엔비디아가 시가총액 1위에 등극한 배경이다.

하지만 올해부터 학습된 AI를 실제 활용하는 AI 에이전트가 화두가 되면서 분위기가 또 바뀌었다. 에이전틱 AI 시대에는 빠른 결정과 이행을 위한 추론이 중요해졌고, 단계적인 추론을 빨리 처리하려면 CPU 성능이 획기적으로 개선돼야 한다. CPU가 명령을 수행하기 위해 메모리에 저장된 데이터를 그때그때 불러다 GPU에 전달하고, GPU는 전달된 데이터를 처리해야 한다. 반도체 조사업체 세미애널리스는 “CPU의 귀환”이라고 평가했다.

베라 CPU. 사진 제공=엔비디아

2028년까지 CPU 시장이 GPU 성장세를 넘어선다는 관측까지 나오자 반도체사들이 앞다퉈 데이터센터 AI 서버용 CPU 개발에 나섰다. 젠슨 황 엔비디아 최고경영자(CEO)는 이달 16일(현지 시간) GTC 행사에서 추론 수요를 겨냥해 에이전틱 AI 전용 ‘베라 CPU’를 공개했다. 엔비디아는 이 모델이 인텔 ‘x86 CPU’ 대비 성능을 1.5배, 에너지 효율은 2배로 높였으며 베라 CPU 256개로 랙을 만들면 데이터센터 서버에 투입할 수 있다고 강조했다.

서버용 CPU 시장에서 인텔과 투톱을 달리는 AMD도 차세대 CPU에 승부를 걸었다. AMD는 데이터센터 서버 교체 수요를 겨냥해 자사 ‘에픽 CPU’ 차기작인 ‘베니스(Venice)’를 준비 중이다. AMD는 에픽 CPU 기반 시스템이 엔비디아 그레이스(Grace) 기반 시스템 대비 코어당 최대 2.1배 높은 성능을 제공하고, 와트당 연산 성능에서 최대 2.26배 향상된 성능을 제공하는 것으로 추정된다고 강조했다.

AMD 에픽 CPU. AMD 블로그 캡처

세계 최대 반도체 지식재산권(IP) 기업인 암(Arm)도 첫 자체 칩인 ‘Arm AGI CPU’를 출시하며 CPU 시장에 발을 내디뎠다. 폭발적인 수요에 대비해 설계 IP 판매 중심의 사업 모델에서 벗어나 고객사와 경쟁하지 않는다는 원칙을 깨고 팹리스(반도체 설계 기업)에 도전장을 낸 것이다. 창립 35년 만에 처음 선보인 자체 칩으로 AI 데이터센터의 에너지효율을 높이는 데 초점을 맞췄다.

영국 기업인 암은 1990년 11월 설립 이래 이 반도체 기업들에 IP를 활용해 밑그림을 그려주고 수수료만 챙기는 수익 모델을 고수해왔다. 하지만 반도체 시장이 AI 중심으로 전개되고 최근 추론용 칩 수요가 폭발적으로 늘면서 35년 넘게 이어진 원칙은 깨졌다. 추론용 AI 모델 경쟁에 불이 붙으면서 데이터센터에서 기존 대비 GW(기가와트)당 4배 이상의 CPU 용량이 필요할 것으로 예상된다. HSBC는 “자체 칩 출시는 판도를 바꿀 만한 변화”라고 평가했다.

암의 자체 칩 개발로 AI 반도체 시장에 파장이 불가피하다는 전망이 나온다. 그동안 인텔 x86 아키텍처 기반으로 만든 인텔과 AMD의 CPU가 데이터센터 시장을 장악하고 있었지만 강력한 경쟁자가 등장했기 때문이다. Arm이 IP 공급사인 반도체 제조사들에 자사 CPU 사용을 압박할 수 있다. 엔비디아가 지난주 공개한 베라 CPU 역시 암 기반으로 개발됐다. 이에 대해 AMD는 x86 CPU 아키텍처가 폭넓고 검증된 소프트웨어 생태계를 제공할 뿐만 아니라 암 기반 시스템을 도입할 때 흔히 발생하는 리팩토링(취약점을 해결하기 위한 구조 정비) 부담도 적다고 강조했다.

※실리콘밸리Look을 구독하시면 실리콘밸리 기술·투자·창업 정보는 물론 재미있는 읽을거리도 받아보실 수 있습니다.

삼전/하닉 주주 필독! 반도체 주린이들을 위한 5분 팟캐스트 (CXL 편)

실리콘밸리=김창영 특파원 kcy@sedaily.com