[특파원칼럼] 거침없이 진격하던 'AI 심장부'가 멈칫한 이유

美 샌타클래라 지속가능성委
전력·물·대기오염 등 이유로
데이터센터 허가에 우려 표시
우리도 피하기 어려운 질문들
선두주자의 시행착오 참고해야

원호섭 실리콘밸리 특파원

지난 10일 미국 캘리포니아주 샌타클래라 카운티 지속가능성위원회 회의를 찾았다. 이날의 주제는 인공지능(AI) 데이터센터. 실리콘밸리 한복판에서 열리는 회의인 만큼 AI 산업의 성장과 투자 확대를 말할 줄 알았다. 분위기는 정반대였다.

데이터센터가 쓰는 전력과 물, 비상발전기의 대기오염, 냉각 과정에서 나오는 폐수까지 우려가 쏟아졌다. 새 데이터센터를 계속 허가해도 되는지, 환경영향평가는 제대로 작동하는지를 묻는 목소리가 이어졌다. 일부 위원은 규제가 정비될 때까지 신규 개발을 멈추는 방안까지 꺼냈다. 인상적이었던 건 AI를 보는 시각의 변화였다. 얼마 전까지 데이터센터는 첨단산업을 유치하면 따라오는 기반시설로 여겨졌다. 이제는 다르다. AI 데이터센터 하나가 작은 도시와 맞먹는 전력을 쓰기 시작하면서 전력망과 용수, 환경에 무엇을 남기는지부터 따져야 하는 거대한 산업시설이 됐다.

샌타클래라는 엔비디아 본사가 있는 곳이다. 구글·애플 본사에서도 멀지 않다. 세계에서 AI의 혜택을 가장 많이 누리는 지역이다. 그런 곳이 데이터센터를 걱정한다. 그 사실 자체가 지금 AI 산업이 맞닥뜨린 현실을 보여준다. 실제로 샌타클래라는 전례 없는 실험을 시작했다. 전력망 증설을 기다리며 완공된 데이터센터를 놀리는 대신 일단 전기를 공급한다.

조건이 있다. 전력이 부족해지면 시영 전력회사 실리콘밸리파워가 그 데이터센터의 사용량을 줄이거나 공급을 제한할 수 있다. 전기를 충분히 확보한 뒤 시설을 돌린다는 방식을 뒤집은 셈이다. 이 지역 전력회사가 2025년 산업 고객 전체에 공급한 최대 전력이 약 746㎿인데 요즘 데이터센터는 한 곳이 49~99㎿를 요구한다. 데이터센터 몇 개면 도시 하나의 산업용 전력을 통째로 삼키는 셈이다.

기업도 움직인다. 엔비디아는 최근 '㎿당 토큰'이라는 새 성능 기준을 내걸었다. 관건은 얼마나 빠른 그래픽처리장치(GPU)를 만드느냐가 아니라, 같은 전력으로 얼마나 많은 연산을 뽑아내느냐다. 엔비디아는 GPU 전력을 소프트웨어로 실시간 조절해 같은 전력에서 최대 40% 더 많은 연산 자원을 돌리는 기술까지 내놨다. AI 산업의 병목이 반도체에서 전력과 인프라로 옮겨가고 있다. 전력망은 반도체처럼 해마다 성능이 두 배로 뛰지 않는다. 발전소와 송전망을 짓는 데는 수년이 걸리고 물도 무한하지 않다. 데이터센터가 늘수록 주민과 산업이 나눠 쓰는 한정된 자원을 어떻게 배분할지도 숙제로 남는다. 한국도 이 질문을 피하기 어렵다. 글로벌 테크 기업들이 한국에 AI 데이터센터를 짓겠다는 계획을 잇달아 내놓고 정부와 지자체도 AI 인프라 유치에 적극적이다. 지금 관심은 몇 GW를 들여오고 GPU를 몇 장 확보하느냐에 쏠려 있다.

하지만 데이터센터를 짓는 것과 감당하는 것은 다른 문제다. 어느 지역에 얼마나 지을지, 전력망 증설 비용은 누가 부담할지, 전력이 부족하면 어떻게 대응할지, 냉각용수와 비상발전기는 어떤 기준으로 관리할지를 짓는 일과 같은 무게로 설계해야 한다.

실리콘밸리는 시행착오를 겪으며 답을 더듬고 있다. 전력이 부족하면 사용을 줄이는 계약을 만들고, 같은 전력에서 더 많은 연산을 짜내고, 뒤늦게 기존 환경 규제가 이 새로운 시설에 맞는지 다시 들여다본다.

한국에는 아직 시간이 있다. 데이터센터가 본격적으로 들어선 뒤 문제가 터져 규제를 만드는 것보다, 먼저 겪은 곳의 시행착오를 보고 준비하는 편이 싸다. AI 경쟁에서 데이터센터를 빨리 짓는 일도 중요하다. 그러나 앞으로의 경쟁력은 얼마나 많이 짓느냐가 아니라, 얼마나 오래 감당하느냐에서 갈릴지 모른다.

[원호섭 실리콘밸리 특파원]