엔비디아, AI 서버값 15% 인상… AI 인프라 ‘쇼크’
빅테크 데이터센터 투자비 급증…AI 인프라 구축 부담
AI 서버 고비용 구조 심화…공급망 안정화 과제로 부상
23일 업계에 따르면 엔비디아는 베라 루빈과 그레이스 블랙웰 등 차세대 주력 칩을 탑재한 AI 서버 시스템의 가격 인상을 고객사에 전달한 것으로 알려졌다. 인상 폭은 15% 이상으로 전해진다. AI 서버는 고성능 그래픽처리장치(GPU)와 중앙처리장치(CPU), 고대역폭메모리(HBM), D램, 저장장치, 네트워크 장비 등이 결합된 고가 시스템인 만큼 핵심 부품 가격 변동이 전체 시스템 가격에 미치는 영향이 크다.
이번 가격 인상의 배경에는 메모리 반도체 공급 부족이 자리 잡고 있다. AI 데이터센터가 빠르게 확대되면서 고성능 메모리 수요가 급증했고, 서버에 필요한 D램과 HBM 확보 경쟁도 치열해졌다.
삼성전자와 SK하이닉스, 마이크론 등 메모리 업체들의 가격 협상력이 높아지면서 엔비디아를 비롯한 서버 제조업체의 원가 부담도 커지고 있다. 반도체 공급업체들이 AI용 제품 생산에 역량을 집중하면서 일반 서버와 다른 전자제품에 필요한 메모리 공급에도 부담이 발생할 수 있다는 우려가 나온다.
특히 AI 서버는 기존 데이터센터 장비보다 메모리 의존도가 높다. 대규모 언어모델을 학습하거나 AI 서비스를 운영하려면 방대한 데이터를 빠르게 읽고 처리해야 하기 때문이다. GPU 성능만 높이는 것으로는 충분하지 않으며 GPU와 메모리 사이에서 데이터를 빠르게 이동시키는 고대역폭메모리와 대용량 D램이 필수적이다. AI 산업이 성장할수록 메모리 수요가 함께 증가하는 구조인 셈이다.
가격 상승은 아마존, 마이크로소프트, 구글, 메타 등 글로벌 빅테크 기업에도 부담이다. 이들 기업은 생성형 AI와 클라우드 서비스 경쟁력을 확보하기 위해 대규모 데이터센터를 건설하고 있다. 일부 기업은 엔비디아 의존도를 낮추기 위해 자체 AI 가속기 개발에 나서고 있지만 메모리까지 자체적으로 조달할 수 있는 것은 아니다. 결국 삼성전자와 SK하이닉스, 마이크론 등 주요 메모리 업체로부터 안정적인 물량을 확보해야 한다.
데이터센터 건설 비용이 상승하면 기업들은 투자 우선순위를 다시 조정할 수밖에 없다. 서버 구매 비용뿐 아니라 전력과 냉각, 네트워크, 데이터센터 건설비까지 함께 증가하기 때문이다. 특히 AI 서버는 높은 전력 소비량으로 인해 냉각 시스템과 전력 인프라에 대한 추가 투자가 필요하다. 서버 가격이 오르면 데이터센터 한 곳을 구축하는 데 필요한 총비용도 연쇄적으로 증가할 가능성이 크다.
문제는 공급 부족이 단기간에 해소되기 어렵다는 점이다. 메모리 업체들이 AI용 고부가 제품 생산을 확대하려면 생산라인 전환과 설비 투자가 필요하다. 반도체 공장을 짓고 생산능력을 늘리는 데 상당한 시간이 걸리는 만큼 수요가 급증하는 속도를 공급 확대가 따라가지 못하면 가격 상승 압력이 지속될 수 있다.
AI 서버 가격 상승은 AI 산업의 성장 속도에도 영향을 줄 수 있다. 자금력이 충분한 대형 기업은 높은 비용을 감당할 수 있지만, 중견기업이나 스타트업에는 고가의 AI 인프라가 진입장벽으로 작용할 수 있다. 클라우드 업체가 비용 상승분을 서비스 가격에 반영하면 AI 이용료가 오를 가능성도 있다. 이는 AI 기술 확산 과정에서 비용 부담을 기업과 소비자에게 전가하는 요인이 될 수 있다.
반면 메모리 반도체 업계에는 호재가 될 수 있다. AI 서버에 필요한 HBM과 고용량 D램 수요가 계속 증가하면 메모리 업체들의 실적 개선과 설비 투자 확대가 이어질 가능성이 높다. 다만 특정 업체와 제품에 수요가 집중될수록 공급망 의존도가 커지고 가격 변동성도 확대될 수 있다는 점은 부담이다.
결국 AI 산업의 다음 경쟁력은 칩의 연산 성능뿐 아니라 메모리와 전력, 서버, 데이터센터를 얼마나 안정적인 비용으로 확보하느냐에 달려 있다. 엔비디아의 이번 가격 인상은 AI 열풍이 반도체와 서버 시장의 가격 구조까지 흔들고 있음을 보여주는 신호다라는 평가가 나온다.
AI 투자가 계속 확대되더라도 인프라 비용이 지나치게 상승하면 기업들의 투자 효율성이 떨어질 수 있는 만큼, 메모리 공급 확대와 데이터센터 전력 인프라 확충을 함께 추진해야 한다는 지적이 제기된다.