하루가 멀다하고 쏟아지는 AI 관련 기술·정책과 기업의 전략을 쉽게 풀어드립니다.
페이스북과 인스타그램의 운영사 메타(Meta)가 엔비디아의 그래픽 처리 장치(GPU)가 아닌 AWS의 중앙처리장치(CPU) 그래비톤을 선택했다. 메타는 이를 통해서 극대화된 성능과 에너지 효율성을 도모한다.
메타는 지난달 28일 AWS의 그래비톤을 대규모로 도입하기 위한 계약을 체결했다고 5일 밝혔다. 그래비톤은 AWS가 자체 설계한 CPU이다. 메타는 단순히 질문에 답하는 수준이 아닌 사용자의 의도를 분석하고 여러 단계의 작업을 논리적으로 순서 지어 실행하는 수준의 에이전트 인공지능(AI)에 집중하고 있다.
AI 추론단계에서는 엔비디아 GPU보다 AWS 그래비톤5
그래비톤의 5세대 최신 모델인 그래비톤5가 엔비디아의 GPU를 제치고 메타에게 선택된 이유는 AI 모델의 학습에는 GPU가 필수적이지만 이를 실제 사용자에게 서비스하는 추론 단계에서는 CPU의 역할이 중요하기 때문이다.
CPU는 컴퓨터 시스템 전반을 관리하고 제어하는 범용 프로세서다. 소수의 고성능 코어로 구성되어 있어 데이터 처리의 직렬 연산에 최적화되어 있다. 특히 복잡한 논리 구조나 조건문을 해석하고 실행하는 데 강점을 가지며 운영체제(OS)를 구동하거나 다양한 소프트웨어의 명령을 순차적으로 처리하는 역할을 수행한다.
반면 GPU는 수천 개 이상의 단순한 코어를 배치하여 데이터 처리량을 극대화한 장치다. 이는 대규모 데이터를 동시에 처리하는 병렬 연산에 특화되어 있으며 AI 학습이나 암호화 연산 등 반복적인 수치 계산이 대량으로 필요한 영역에 필수적으로 사용된다.
CPU는 복잡한 제어 흐름 및 지연 시간에 민감한 작업 처리에 유리하다. GPU는 대량의 단순 계산에 능하지만 매 순간 판단이 필요한 복잡한 알고리즘이나 분기 처리에서는 CPU보다 효율이 떨어진다. 그래비톤5는 이러한 논리 연산을 낮은 지연 시간으로 처리하여 시스템 전체의 반응 속도를 높인다. 또한 GPU는 전력 소모가 매우 크고 도입 비용이 비싼 반면 그래비톤5는 저렴한 비용으로 동일한 수의 사용자 요청을 처리할 수 있다.
그래비톤5: 성능은 극대화, 에너지는 최소화
AWS의 그래비톤5 인스턴스를 통해 성능은 극대화하고 에너지 낭비는 최소화한 맞춤형 인프라 구축이 가능해진다. 그래비톤5 인스턴스는 그래비톤5 칩을 장착한 서버를 사용자가 바로 쓸 수 있게 가상 컴퓨터 형태로 만든 서비스 상품이다.
이 인프라의 기반이 되는 AWS 니트로 시스템은 AWS가 클라우드 서버의 성능을 높이는 하드웨어 가속 장치 세트다. AWS 니트로 시스템은 하드웨어와 소프트웨어를 효율적으로 분리해 메타가 서버 자원을 직접 제어하면서도 기존에 사용하던 네트워크(ENA)와 저장소(EBS) 환경을 성능 손실 없이 그대로 쓸 수 있게 해준다.
수많은 프로세서가 데이터를 주고받으며 협업하는 에이전트 AI 등의 대규모 작업 시 EFA 기술이 핵심적인 역할을 수행한다. EFA란 ENA보다 강화된 네트워크로 OS 우회를 통해 다른 서버의 메모리로 데이터를 바로 보낸다. 이로써 EFA는 서버 간의 통신 지연을 최소화하고 대역폭을 넓힌다.
그래비톤5 칩 자체 혁신은 최첨단 3나노미터 공정으로 제작된 것이다. 그래비톤5 칩은 AWS가 설계부터 서버 구축까지 전 과정을 직접 통제하여 제작됐다. 회로의 선폭을 의미하는 나노가 가늘어질수록 같은일을 할 때 필요한 전압이 낮아진다. 또 공정이 미세해지면서 같은 면적에 더 많은 트랜지스터를 넣을 수 있다. 시중의 일반 프로세서와 달리 특정 환경에 최적화된 설계를 택했기에 이전 세대보다 성능을 최대 25% 끌어올리면서도 전력 소모는 줄였다.
산토시 자나단 메타 인프라 책임자는 "AWS는 수년간 신뢰할 수 있는 클라우드 파트너였으며 그래비톤으로의 확장을 통해 에이전트 AI를 뒷받침하는 CPU 집약적 워크로드를 우리 규모에 걸맞은 성능과 효율로 실행할 수 있게 됐다"고 말했다.
김수진 기자
Copyright © 블로터