[분석] AI 연산자원 활용도 주목···HBM 호황, 수요 흡수력이 관건
HBM 업황의 다음 시험대는
설비 활용도와 수요 흡수력

인공지능(AI) 데이터센터 투자 확대에 힘입어 고대역폭메모리(HBM) 수요가 강세를 이어가는 가운데, 향후 HBM 업황을 가를 핵심 변수로는 구축된 AI 연산자원의 활용도와 수익화 속도가 꼽힌다. 대규모 선행 투자로 확보한 연산능력이 충분히 활용되지 못할 경우 신규 서버와 메모리 구매 속도도 영향을 받을 수 있어서다.
그동안 AI 산업의 성장은 데이터센터 증설과 AI 가속기 확보 경쟁을 중심으로 전개됐다. 생성형 AI 학습과 추론에 필요한 연산량이 급증하면서 기업들은 서버와 그래픽처리장치(GPU), 네트워크 장비를 선제적으로 확보했고, 이는 HBM 수요 확대로 이어졌다. HBM은 여러 개의 D램을 수직으로 쌓아 데이터 처리 속도와 대역폭을 높인 메모리로, AI 가속기 성능을 뒷받침하는 핵심 부품으로 꼽힌다.
AI 인프라는 초기 투자비가 큰 산업이다. 데이터센터 구축에는 서버와 반도체뿐 아니라 전력설비, 냉각장치, 네트워크 등 대규모 비용이 함께 들어간다. 투자 규모가 커질수록 사업자 입장에서는 이미 확보한 연산자원을 얼마나 높은 가동률로 운영하고, 이를 서비스 매출이나 기업 수요로 얼마나 빠르게 연결하느냐가 중요해질 수밖에 없다.
AI 서비스 수요가 설비 확충 속도를 충분히 따라가지 못할 경우 기업들은 신규 데이터센터를 추가로 짓기보다 기존 시설의 활용도를 높이는 데 우선순위를 둘 가능성이 있다. 서버와 GPU 도입 속도가 조정되면 HBM 주문 증가율도 영향을 받을 수 있다. AI 투자가 중단되지 않더라도 신규 장비 발주 주기가 길어지거나 증설 속도가 완만해지는 것만으로 메모리 공급망에는 부담이 될 수 있다는 의미다.
증설 경쟁보다 '활용도'가 관건
HBM은 일반 D램보다 생산능력 조정이 쉽지 않다는 점에서 수요 변화에 더 민감할 수 있다. HBM 생산에는 메모리 적층, 첨단 패키징, 테스트 등 복잡한 공정이 필요하고 관련 설비와 인력도 선행 투자해야 한다. 수요 전망이 강할 때는 공급이 빠르게 따라가지 못해 수급이 타이트해질 수 있지만, 고객사의 투자 일정이 바뀌면 이미 늘린 생산능력을 다른 제품으로 전환하기도 쉽지 않다.
특히 AI용 반도체 수요는 대형 데이터센터 사업자와 클라우드 기업의 투자 결정에 영향을 크게 받는다. 소수 고객사의 설비투자 계획이 바뀌거나 기존 연산자원의 활용도를 높이는 방향으로 전략이 이동하면 신규 GPU와 HBM 구매 증가세도 조정될 수 있다. 메모리 수요가 줄지 않더라도 증가율이 둔화하는 것만으로 생산업체의 가동률과 가격 협상력에는 부담이 생길 수 있다.
현재 AI 인프라 투자가 곧바로 꺾이고 있다고 보기는 어렵다. AI 모델 고도화와 기업용 AI 서비스 확산, 맞춤형 AI칩 도입 확대는 고성능 메모리 수요를 뒷받침하는 요인이다. 차세대 AI 가속기의 메모리 탑재량이 늘어나는 흐름도 HBM 시장에는 긍정적이다.
앞으로 관건은 투자액의 절대 규모보다 투자 효율이 될 전망이다. 데이터센터가 계속 지어지더라도 AI 서비스 매출과 기업 수요가 설비 증가 속도를 따라가지 못하면 신규 장비 구매보다 기존 연산자원의 활용도 제고가 우선될 수 있다. 이 경우 HBM 시장은 수요 강세를 유지하더라도 성장률은 이전보다 낮아질 가능성이 있다.
HBM 호황의 지속 여부는 데이터센터를 얼마나 더 짓느냐보다 이미 구축한 AI 연산자원이 얼마나 효율적으로 활용되느냐에 달릴 가능성이 크다. 향후에는 AI 연산자원 활용도와 AI 서비스 매출, GPU 발주량, 장기 공급계약 변화가 HBM 수요의 실질적 강도를 가늠할 주요 지표가 될 전망이다.
☞ 고대역폭메모리(HBM) : 여러 개의 D램을 수직으로 쌓아 데이터 전송 경로를 넓힌 고성능 메모리 반도체. 대용량 데이터를 빠르게 처리해야 하는 인공지능(AI) 연산과 그래픽 처리 등에 쓰인다.
☞ 그래픽처리장치(GPU) : 화면의 그래픽 연산을 처리하기 위해 개발된 반도체이지만, 다수의 연산을 동시에 수행하는 특성 때문에 인공지능 학습·추론과 고성능 컴퓨팅에도 널리 활용된다.
☞ 데이터센터 가동률 : 데이터센터에 구축된 서버·저장장치·네트워크 등 설비가 실제로 운영되는 수준을 나타내는 지표. 일반적으로 가동률이 높을수록 투자한 설비가 더 효율적으로 활용되고 있다는 뜻이다.
여성경제신문 박소연 기자
syeon0213@seoulmedia.co.kr
*여성경제신문 기사는 기자 혹은 외부 필자가 작성 후 AI를 이용해 교정교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.