“AI 병목은 GPU 아닌 전기...있는 전력부터 쥐어 짜자”

실리콘밸리, AI데이터센터 해법 논의

15일(현지 시각) 미국 캘리포니아주 산타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026’에서 AI 데이터센터의 전력·냉각 병목 해결 방안을 논의하는 세션이 진행되고 있다./강다은 특파원

인공지능(AI) 데이터센터는 올해 미국의 가장 ‘뜨거운 감자’ 중 하나다. 빅테크는 AI 경쟁에서 뒤처지지 않겠다며 천문학적인 돈을 쏟아붓고 있지만, 전기료 상승과 전력망 부담, 용수·소음 등을 우려한 주민 반발도 거세다. 미 정치권은 AI 인프라 확충과 생활비 부담 완화라는 상충하는 요구를 동시에 떠안고 있다.

이런 가운데 15일(현지 시각) AI 산업의 심장부인 실리콘밸리에서는 데이터센터 병목을 풀고 AI 인프라를 더 빨리 가동하기 위한 해법을 논의하는 자리가 마련됐다. 이날 산타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026’에는 빅테크와 데이터센터·에너지 기업, 전력회사, 관련 기관 전문가들이 모였다.

◇“전력이 부족한 게 아니라, 쓰는 방식이 낡았다”

첫날 현장에서 전문가들은 AI 데이터센터의 최대 병목이 그래픽처리장치(GPU) 등 AI 칩보다 전력으로 옮겨가고 있다고 지적했다. 특히 단순히 전력이 부족한 것이 아니라, 기존 데이터센터 설계 방식 때문에 확보한 전력도 효율적으로 쓰지 못하고 있다는 분석이 나왔다.

비제이 가데팔리 베이컴퓨트 공동창업자는 “1GW(기가와트) 데이터센터를 만들면서 복잡성을 해결하기보다 100MW짜리 10개를 붙이는 식으로 30년 된 방식을 답습해 왔다”며 “5년 뒤 돌아보면 ‘우리가 참 게을렀구나’라고 생각할 것”이라고 했다.

이날 여러 세션에서는 전력을 효율적으로 쓰는 방안에 대한 제언이 이어졌다. 새 발전소나 전력망을 건설하는 데에는 수년씩 시간이 걸리고, 지연될 가능성도 크기 때문에 이미 확보한 전력을 더 잘 쓰자는 것이다. 오후 2시 20분 열린 ‘AI 데이터센터의 전력을 다시 생각하다’ 세션에서 야사르 아이한 카야 마이크로소프트 시니어 디렉터는 “우리가 얻을 수 있는 가장 저렴한 메가와트(MW)는 신규 발전소가 아니라 이미 확보해 둔 전력을 쥐어짜내는 것”이라고 했다. 이어 “이용자에게 즉각 답해야 하는 AI ‘추론’은 전력 공급을 쉽게 줄이기 어렵지만, 수개월씩 진행되는 ‘학습’은 전력망 상황에 맞춰 사용량을 조절할 여지가 있다”며 “모든 AI 작업에 똑같이 최고 수준의 전력을 공급할 필요는 없다”고 했다.

일단 공급 가능한 전력부터 받아 데이터센터를 먼저 가동하자는 방안도 나왔다. 일부 전력이 부족해질 우려로 데이터센터 전체의 가동이 늦어진다면 손해가 막심하다는 주장이다. 맷 펜폴드 버스 공동 창업자는 200MW 데이터센터라면 100MW는 안정적으로 공급받고, 나머지 100MW는 전력망에 여유가 있을 때 받는 ‘비확정 전력 접속’을 제시했다. 부족한 전력은 배터리저장장치(BESS)나 자체 발전원으로 메우는 방식이다. 그는 “배터리로 수백만 달러를 아끼는 것보다 데이터센터 가동을 6개월 앞당겨 얻는 이익이 훨씬 크다”고 했다.

배터리와 현장 발전을 결합하는 방안도 논의됐다. 테릴 로튼 트랜스그리드에너지 부사장은 가스터빈·태양광·BESS를 소프트웨어로 묶어 전력망과 자체 전원을 유연하게 오가는 방식을 제시했다.

◇“2030년, 美 전력 10% 이상 데이터센터에”

AI 인프라 투자 규모는 이미 사상 최대 수준으로 치솟았다. 블룸버그통신에 따르면 알파벳·아마존·메타·마이크로소프트 등 미국 4대 빅테크가 올해 계획한 자본 지출은 최대 7250억달러에 달한다. 대부분 AI 데이터센터와 서버·반도체 등 인프라에 투입된다.

문제는 전력 공급 속도가 이 투자 속도를 따라가지 못한다는 점이다. 로런스버클리국립연구소(LBNL)는 미국 데이터센터가 2030년 전체 전력 소비의 11.8%를 차지할 것으로 추산했다. 시나리오에 따라선 15.3%까지 올라갈 수 있다. EPRI도 2030년 미국 데이터센터 전력 소비 비중을 9~17%로 전망했다.