AI CPU가 삼킨 D램, 메모리 ‘숏티지’ 1년 더 간다

2027년까지 D램 공급부족 장기화
GPU에 이어 CPU도 D램 고용량화
‘AI 조율자’된 CPU...대용량 기억력 필수
CPU에 필수인 DDR5 ‘수급 불균형’ 심화

삼성전자의 최신 표준 범용 D램인 DDR5. 삼성전자

메모리 업계가 가격이 100% 이상 급등한 ‘범용 D램’에 힘입어 전례 없는 실적을 기록한 가운데 인공지능(AI)용 중앙처리장치(CPU)의 확산까지 맞물리며 ‘숏티지(Shortage·공급부족)’ 현상이 1년 더 이어질 것이라는 전망이 제기된다.

인텔이 최근 선보인 ‘AI CPU’에는 기존보다 최대 4배 많은 범용 D램이 탑재될 것으로 예상되는 상황에 고용량 D램을 요구하는 그래픽처리장치(GPU) 수요까지 겹치면서 삼성전자와 SK하이닉스의 메모리 공급 능력이 수요를 따라가지 못할 것이라는 관측이 나온다.

2일 업계에 따르면 CPU 제조사들이 AI CPU에 300~400GB(기가비트) 용량의 D램 탑재를 추진 중인 것으로 파악됐다. 이는 일반적인 CPU 제품(96~256GB) 대비 최대 4배에 달하는 압도적인 규모다.

‘AI 조율자’로 부상한 CPU

AI CPU의 고용량 D램 수요 급증은 AI 산업이 ‘추론’ 중심으로 재편되는 흐름과 맞물려 있다. 과거에는 AI 추론이 단순 질의응답에 머물렀다면 이제는 다양한 ‘에이전틱 AI’를 총괄하는 ‘오케스트레이션(조율자)’ 역할까지 맡게 됐다.

이 과정에서 핵심은 ‘컨텍스트(문맥) 기억’이다. CPU가 각 에이전틱 AI의 생성물을 참조해 전체 업무 흐름을 조율하려면 내용을 기억해야 한다. 이를 위해 기억 공간인 메모리의 대용량화가 필수가 된 것이다.

그간 AI 데이터센터는 고대역폭메모리(HBM)가 장착된 GPU 중심의 컴퓨팅 인프라를 구축해왔다. AI에 방대한 데이터를 동시 학습시키는 GPU의 특성을 살려 ‘AI 훈련’에만 집중해 온 것이다. 이에 따라 서버 구성도 GPU 8대에 CPU 1대가 붙는 식이었다. 그러나 업계의 무게중심이 추론으로 이동하면서 CPU 비중을 대폭 늘린 서버 구성이 확산되고 있다.

인텔 경영진은 최근 실적 발표를 통해 “AI 추론용 인프라에서는 CPU와 GPU 비율이 1대 4로 컴퓨팅 구조가 바뀌었다”며 “나아가 1대 1 수준까지 좁혀지는 추세”라고 설명했다.

인텔의 서버용 AI CPU 제품군인 ‘제온’. 인텔

GPU에 이어 CPU까지 메모리 쟁탈전...수요 ‘눈덩이’처럼 늘어난다

메모리 탑재량 경쟁이 GPU를 넘어 CPU로 확대되면서 눈덩이처럼 불어나는 양상을 보이고 있다. 엔비디아의 차세대 AI 칩 ‘베라루빈’은 HBM 8개를 통해 288GB를 탑재하고 AMD의 다음 세대 GPU인 MI400는 보다 많은 432GB의 매머드급 용량을 자랑한다.

구글이 최근 공개한 커스텀 칩인 8세대 텐서처리장치(TPU)인 TPU 8i 역시 288GB의 HBM 용량을 갖출 예정이다. 여기에 인텔의 AI CPU인 ‘제온’과 AMD의 ‘에픽’까지 최대 400GB의 고용량 DDR5를 사용하기 시작하면 메모리 숏티지 현상은 더 지속될 것으로 보인다.

시장의 온도는 이미 현물가에서 증명되고 있다. 키움증권에 따르면 4월 구형 DDR4(16GB 기준) 가격은 한 달 만에 16% 폭락하며 주춤하는 가운데 AI CPU에 쓰이는 DDR5(16GB 기준)의 4월 현물가는 같은 기간 2.8% 상승하며 가격 프리미엄을 유지하고 있다.

업계 관계자는 “현재 D램 시장은 수요 대비 공급량이 약 10%포인트 부족한 상태로 알고 있다”며 “HBM에 더해 범용 D램의 수요가 급증하면서 슈퍼사이클이 기존 2026년에서 2027년까지 연장될 가능성이 높다”고 말했다.

이석진 기자 sj@sedaily.com