“AI용 GPU 썩고 있다”

애써 확보한 1만3000여장
이달 1만8000장 또 들어와도
전력 문제로 제대로 못 돌려
6개월~1년 지나면 이미 구형
빠른 감가상각 ‘시한폭탄형’
“AIDC 원전인근 입지가 답”

애써 확보한 GPU(Graphic Processing Unit)가 썩고 있다. 1조 가까운 돈이 빠르게 삭아 없어지는 꼴이다.

GPU는 병렬 처리에 특화된 프로세서로 AI 학습, 과학 시뮬레이션 등에 필수적 전력 확보를 못해서이다.

하지만 전력 설비확보까지 기다리기에는 시간이 별로 없다.

문제는 GPU가 급속한 감가상각이 진행되는 '시한폭탄성' 자원이라는 것.

앞으로 순차적으로 26만장의 GPU가 들어오면 문제는 더 심각해진다.

이미 국내에 들어온 GPU는 블랙웰 계열이다.

하지만 올해 하반기부터는 루빈이 본격 공급되고, 이후 루빈 울트라, 파인만으로 빠르게 업그레이드 된다.

업계에서는 "GPU를 6개월 안에 풀가동하지 못하면, 사용을 못하다는 것은 아니지만 사실상 한 세대 뒤처진 장비가 된다"는 말까지 제기되고 있다.

한 AI 스타트업 대표는 "지금 1만3000장은 쓰지도 못한 채 감가상각이 진행되고 있다"며 "AI 개발 경쟁에서 앉아서 기회비용을 날리고 있다"고 지적했다.

여기에 최신 GPU는 랙(Rack) 단위의 고밀도 전력 구조를 요구한다.

블랙웰 계열에서 루빈으로 넘어가면 랙 아키텍처 자체가 달라진다. 전력 공급 방식, 냉각 설계, 배전 구조를 모두 다시 설계해야 한다.

하지만 수도권 데이터센터는 기존 범용 서버 기준으로 설계된 곳이 대부분이다. 좁은 공간에 수십 MW 전력을 쏟아 붓는 AI 전용 설계를 적용하기 어렵다. 송배전 설비를 새로 깔아야 하고, 변전소 증설도 필요하다.

대안으로 제기되는 것이 원전밀집지에 데이터센터 구축하는 것이다.

경북은 국내 최대 원전 밀집 지역 중 하나로, 잉여 전력과 안정적인 기저 전원을 동시에 갖췄다.

이곳은 외면하고 현재 GPU 대부분은 전력망이 포화 상태인 수도권 수도권 데이터센터에 구축을 시도하고 있는 미스매치가 일어나고 있다.

실제 GPU를 배정받은 NHN클라우드·네이버클라우드·카카오클라우드 등 국내 3대 클라우드 사업자 모두 전력 확보 문제로 이른바 GPU를 돌리는데 애를 먹고 있는 상황이라는 것이 관련 업계와 학계의 전언이다.

경북도 관계자는 "원전 옆에 데이터센터를 지으면 '타임 투 파워(Time to Power)'를 획기적으로 줄일 수 있다"며 "GPU를 꽂자마자 바로 돌릴 수 있는 곳이 경북"이라고 말했다.

한 전문가는 "정부가 당장 쓸 수 있는 잉여전력 활용은 대신 수년이 걸리는 풍력 태양광 등 재생에너지 기반 대형 프로젝트에 매달린다면 그 사이 지금 들어온 GPU는 다 구형이 된다"고 했다.

경북도민일보