AWS, 엔비디아 블랙웰 기반 'P6e-GB200 울트라서버' 공개

최대 72개 GPU·360페타플롭스 성능으로 AI 혁신 가속
P6e-GB200·P6-B200 등 AI 워크로드별 맞춤형 인프라

엔비디아 NV링크 스위치(아마존웹서비스 제공)

(서울=뉴스1) 김민석 기자 = 아마존웹서비스(AWS)는 엔비디아의 최신 그레이스 블랙웰 슈퍼칩(Grace Blackwell Superchips)을 탑재한 'P6e-GB200 울트라서버'를 공개했다고 15일 밝혔다.

P6e-GB200 울트라서버는 인공지능(AI) 추론 모델과 에이전틱 AI 시스템 등 차세대 생성형 AI의 발전을 가속하기 위한 서버로 AWS가 제공하는 역대 최고 사양이다.

P6e-GB200 울트라서버는최대 72개의 엔비디아 블랙웰 GPU를 5세대 NV링크로 상호 연결해 단일 컴퓨팅 유닛으로 작동한다. 서버 한 대당 360페타플롭스(FP8)의 고밀도 연산 성능과 13.4TB의 고대역폭 GPU 메모리(HBM3e)를 제공해 대규모 AI 워크로드의 컴퓨팅 수요에 대응할 수 있다.

P6e-GB200 울트라서버는 조 단위 파라미터 규모의 프론티어 모델 훈련 및 배포 등 컴퓨팅·메모리 집약적 AI 워크로드에 최적화됐다. 72개의 GPU가 통합된 메모리 공간과 조정된 워크로드 분산을 통해 단일 시스템으로 작동, 노드 간 통신 오버헤드를 최소화해 효율적으로 분산 훈련을 할 수 있다.

AWS 관계자는 "기존 P5en 인스턴스 대비 20배 이상의 컴퓨팅 성능과 11배 이상의 메모리 용량을 단일 NV링크 도메인으로 구현했다"며 "네트워킹 측면에서 4세대 일래스틱 패브릭 어댑터(EFAv4)를 통해 최대 초당 28.8테라비트(Tbps)의 통합 대역폭을 지원한다"고 말했다.

IRHX 리퀴드 냉각 시스템 내부(아마존웹서비스 제공)

AWS는 올해 초 엔비디아 블랙웰 GPU 기반의 P6-B200 인스턴스를 출시한 바 있다.

P6-B200 인스턴스는 8개의 엔비디아 블랙웰 GPU와 1.4TB의 GPU 메모리, 최대 3.2Tbps의 EFAv4 네트워킹, 5세대 인텔 제온 스케일러블 프로세서를 갖췄다. 기존 P5en 인스턴스 대비 최대 2.25배 향상된 GPU 연산 성능, 1.27배 커진 GPU 메모리, 1.6배 증가한 메모리 대역폭을 제공한다.

P6-B200 인스턴스는 기존 GPU 워크로드 이식이 쉬운 8-GPU 구성으로 코드 변경 없이 현재 세대 인스턴스에서 손쉽게 마이그레이션(이전)할 수 있다.

ideaed@news1.kr

<용어설명>

■ 에이전틱 AI
에이전틱 AI(Agentic AI)는 인공지능 기술의 최신 진화 단계로 기존의 규칙 기반 자동화나 단순한 생성형 AI를 넘어서는 자율성과 목표 지향적 행동을 갖춘 AI 시스템이다.

■ NV링크
NVLink는 엔비디아가 개발한 고속 GPU 간 상호 연결(인터커넥트) 기술이다. 기존 PCI Express(PCIe)보다 높은 대역폭과 낮은 지연 시간으로 여러 GPU 또는 GPU와 CPU를 직접 연결해 대용량 데이터를 처리할 수 있다.