AI 에이전트 시대 CPU 승부처는 ‘AI 연산’… 인텔·AMD 경쟁 본격화
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
에이전틱 인공지능(AI) 시대를 맞아 중앙처리장치(CPU)의 경쟁 축이 달라지고 있다. 그래픽처리장치(GPU)가 대규모 행렬 연산을 기반으로 AI 학습과 추론을 주도해 온 것과 달리, CPU는 스칼라·벡터 연산 중심의 범용 처리 구조를 바탕으로 시스템 전반의 워크로드를 담당해 왔다. 하지만 최근에는 인텔과 AMD를 중심으로 CPU 내부에 벡터·행렬 연산을 직접 처리할 수 있는 기능을 강화하면서 AI 연산 영역까지 역할이 확장되는 모습이다.
프로세서 아키텍처의 파이프라인 내 전용 블록 형태로 탑재된 AMX는 AI용 행렬곱 연산을 CPU에서도 GPU와 유사한 형태로 처리해, AVX-512 대비 최대 8배의 피크 처리량을 달성할 수 있다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
AI 처리 역량 강화하는 데이터센터용 CPU
CPU의 AI 시대 역량 강화를 위한 움직임은 이미 수년 전부터 진행돼 왔다. AI 시대 CPU 활용의 중심에는 부동소수점 연산과 벡터 연산이 있으며, 최근 프로세서에 추가되는 최신 명령어셋도 이 영역에 집중돼 있다. 인텔과 AMD의 최신 프로세서에 사용되는 'AVX(Advanced Vector Extensions)' 계열 명령어가 이에 해당된다. Arm 계열 프로세서에도 비슷한 역할을 하는 명령어 체계가 있으며, 이를 SVE(Scalable Vector Extension)라고 부른다.
데이터센터용 CPU의 내부 발전이 본격적으로 'AI'를 표방하게 된 계기는 2019년 인텔이 선보인 2세대 제온 스케일러블 프로세서에 탑재된 AVX-512의 VNNI(Vector Neural Network Instructions) 기술이었다. 이 VNNI 기술은 이전까지 세 사이클에 걸쳐 진행해야 했던 합성곱 연산을 한 사이클로 처리할 수 있어 딥러닝 작업에서 처리량을 크게 끌어올릴 수 있었지만 당시에는 제대로 활용되디 못했다. 초기 도입 당시 VNNI는 AVX-512 기반이었지만, 현재는 AVX2 등 256비트 벡터 폭의 설계에서도 비슷한 역할을 할 수 있도록 도입됐다.
데이터센터용 CPU에서 AVX-512는 인텔의 초대 제온 스케일러블 프로세서, AMD의 4세대 에픽 프로세서부터 본격적으로 도입됐다. AVX-512를 잘 활용하면 AI나 머신러닝, HPC 등의 워크로드에서 기존 대비 큰 폭의 성능 향상을 얻을 수 있다. 하지만 이 AVX-512는 도입 초기부터 프로세서에 주는 부하량이나 활용의 어려움, 제품군과 세대별 심한 파편화 등으로 여전히 활발하게 쓰이지는 않는 상황이다. 또한 인텔은 현재 AVX-512를 'P-코어' 기반 제품에만 제공하고 있다.
항후 차세대로 등장할 'AVX10'에서는 복잡하게 파편화된 AVX 계열 생태계의 '통합'이 이뤄진다. AVX10은 기존 AVX, AVX2, AVX-512의 주요 명령어를 하나의 체계로 통합해 활용성을 개선하는 것이 핵심 변화로 꼽힌다. AVX10은 향후 인텔의 차세대 제온 '다이아몬드 래피즈(Diamond Rapids)'부터 탑재될 것으로 알려졌고, 향후 'E-코어' 기반 제온 프로세서와 하이브리드 구조의 일반 소비자용 제품까지 적용이 확장될 전망이다.
벡터 연산을 넘어 AI의 핵심 연산 유형인 '행렬곱' 연산에 특화된 기술도 도입되고 있다. 인텔이 4세대 제온 스케일러블 프로세서 '사파이어 래피즈' 부터 선보인 AMX(Advanced Matrix Extensions)가 대표적이다. 프로세서 아키텍처의 파이프라인 내 전용 블록 형태로 탑재된 AMX는 AI용 행렬곱 연산을 CPU에서도 GPU와 유사한 형태로 처리해, AVX-512 대비 최대 8배의 피크 처리량을 달성할 수 있다. AMX를 잘 활용한다면 프로세서 차원에서도 엔트리급 데이터센터용 GPU 수준의 성능을 충분히 발휘할 수 있다.
인텔과 AMD가 공동으로 발표한 ACE(AI Compute Extensions)도 주목할 만하다. ACE는 AVX10 레지스터를 활용하며 행렬 곱셈 전용 실리콘도 추가해 AVX10 대비 16배 성능 향상이 기대된다. 향후에는 ACE가 AVX와 AMX 등으로 나뉜 체계를 통합할 것으로도 전망된다. AMD는 2028년 발표될 '젠 7' 기반 에픽 프로세서가 ACE를 지원할 것이라 공식 발표했고, 인텔도 향후 차세대 데이터센터용 프로세서에 이 명령어를 탑재할 것으로 전망된다.
클라이언트용 CPU도 AI 시대 변화 중
AI 시대 PC와 엣지 등 '클라이언트' 시장을 위한 CPU의 변화는 서버 시장과는 상황과 방향성이 다소 다르다. 서버용 CPU의 변화가 CPU 내부 코어 마이크로아키텍처에 집중되는 것과 달리, PC용 시프로세서는 코어 아키텍처뿐 아니라 CPU 구성 전반을 패키징 단위까지 고려한다는 점에서 차이가 있다. 궁극적으로는 프로세서 내부에서 CPU 코어 뿐만 아니라 GPU, NPU 등의 가속기를 연결해 다양한 워크로드를 효과적으로 처리하는 방향으로 발전하고 있다.
CPU 내부에서는 차세대 AVX 규격 도입이 논의되고 있다. 인텔은 PC용 차세대 프로세서 '노바 레이크(Nova Lake)'에서 AVX10 지원을 추가할 것으로 알려졌다. 인텔은 2021년 발표한 12세대 코어 프로세서 이후 지금까지 클라이언트용 프로세서에서 256비트 폭의 AVX2 계열까지만 지원해 왔다. 이는 AVX-512가 지원되지 않는 E코어를 사용하는 하이브리드 아키텍처의 구조적 제약 때문이다. 하지만 노바 레이크부터는 P코어와 E코어 양쪽에서 AVX10을 통해 512비트 폭 처리까지 지원할 것으로 기대된다.
AMD는 '젠 4' 아키텍처를 사용한 라이젠 7000 시리즈 이후부터 AVX-512까지 지원해 인텔보다 지원 폭이 넓다. 지금까지 데이터센터와 클라이언트용 아키텍처를 공유했던 AMD의 전략을 고려하면, 최신 '젠 6' 아키텍처까지는 AVX-512를 사용하고, 차세대 '젠 7'부터 ACE를 클라이언트 수준에서도 도입할 것으로 전망된다.
퀄컴은 스냅드래곤 X2에 탑재되는 3세대 오라이온 코어에서 개별 코어 수준에는 SVE2 기반 128비트 유닛 4개를, 클러스터 수준에서는 클러스터 내 코어들이 공유하는 매트릭스 유닛을 탑재했다. 전용 매트릭스 유닛이 탑재된 건 PC용 플랫폼에서는 제법 앞서 있으며, 이를 코어가 아닌 클러스터 수준에서 통합해 아키텍처 부담도 줄였다. 엔비디아의 'GB10' 등에 사용되는 '그레이스'는 매트릭스 유닛 없이 벡터 유닛만 코어당 4개 탑재한다.
클라이언트급 CPU의 또 다른 중요한 발전 방향은 패키지 내에 내장되는 GPU나 NPU 등의 '가속기'다. 인텔과 AMD 모두 최근 몇 년간 프로세서 내장 GPU와 NPU의 성능과 활용성을 높이는 데 집중하고 있다. 특히 GPU에서는 그래픽 성능을 넘어 AI 연산을 위한 기술까지 프로새서 내장 GPU에 탑재하고 있다. 인텔은 최신 세대 내장 그래픽에 행렬 연산 성능을 크게 높이는 XMX(Xe Matrix Extensions)를 기본 적용했고, AMD도 RDNA 3.5 기반 내장 그래픽에서 행렬 연산 가속기를 제공한다.
NPU의 역할도 커지고 있다. 초기 NPU는 이미지와 음성 효과 처리 등에 주로 활용됐지만 '코파일럿+ PC' 이후 등장한 40TOPS(초당 40조회 연산) 이상의 NPU에서는 적당한 크기의 생성형 AI 모델까지 구동할 수 있게 됐다. 향후 에이전틱 AI 환경에서도 NPU는 사용자에게 직접 드러나지 않는 에이전트 등의 처리에 활용도가 늘어날 것으로 보인다. 현재는 50TOPS 수준 성능이 주류를 이루지만, 퀄컴의 '스냅드래곤 X2' 시리즈가 80TOPS 성능의 NPU를 탑재하면서 한 발 앞서 있다.
권용만 기자
yongman.kwon@chosunbiz.com
Copyright © IT조선. 무단전재 및 재배포 금지.