“AI, 써도 너무 많이 써요”…인프라 비용 폭증에 ‘별도 과금’ 공포 온다

인공지능 생산성 향상의 역설
토큰 폭증, 인프라 못따라가
자원 고갈에 유료화 전환도
코드 10배 급증·검증은 제자리
통제 벗어나며 보안 구멍 커져
양적 팽창 뒤에는 질적 위기

스스로 판단해 작업을 수행하는 ‘AI 에이전트’ 확산으로 인공지능(AI) 생산성이 폭발적으로 증가하면서 이를 떠받치는 연산 인프라와 보안 체계가 한계에 직면하고 있다. AI 사용량을 의미하는 ‘토큰’이 새로운 경쟁 지표로 떠오르는 상황에서 생산성이 높아질수록 비용과 위험도 함께 커지는 ‘AI 생산성의 역설’이 현실화하고 있는 것이다.

7일(현지시간) 정보기술(IT) 전문매체 더 인포메이션에 따르면 마이크로소프트(MS)가 운영하는 ‘깃허브’의 연간 코드 커밋(코드를 추가하거나 저장하는 횟수) 수는 올해 140억건으로 1년 전보다 14배 가까이 증가할 것으로 전망된다. 주간 커밋 수도 현재 2억7500만건에 달하면서 올해 들어 매주 최고치를 경신하고 있다. AI 에이전트가 코드 생성과 수정 작업을 자동으로 수행하면서 인간의 작업 속도를 넘어서는 생산 구조가 형성된 결과다. 이는 자연스럽게 토큰 사용량 증가로 연결된다. 오픈라우터에 따르면 주간 토큰 사용량 수는 지난해 4월 1조7800만개에서 올해 3월 말 현재 27조개로 15배나 증가했다.

인간의 작업 속도를 넘어서는 코드 생산이 가능해지자 기업들은 토큰 사용량 자체를 생산성 지표로 삼기 시작했다. 메타는 직원 간 AI 사용량을 비교하는 ‘토큰 리더보드’를 도입해 내부 경쟁을 유도하고 있다. 토큰 사용량이 늘수록 더 많은 결과물을 만들어낼 수 있다는 인식이 반영된 결과다.

젠슨 황 엔비디아 최고경영자(CEO)도 “엔지니어들은 연간 수십만 달러의 기본 연봉을 벌 것이고, 나는 기본 연봉의 절반 정도를 ‘토큰’으로 추가로 줄 생각”이라며 “토큰에 접근할 수 있는 모든 엔지니어는 더 생산적이 될 것이기 때문”이라고 말했다.

그러나 토큰 증가는 곧바로 인프라스트럭처 부담으로 이어지고 있다. 깃허브는 트래픽 급증으로 응용프로그램 프로그래밍 인터페이스(API) 제한과 서버 장애가 반복되고 있다. 서버 확충에도 수요 증가 속도를 따라가기가 어렵다. 앤스로픽 역시 ‘클로드’를 외부 AI 에이전트가 반복 호출하면서 연산 자원이 빠르게 부족해졌고, 결국 지난주 추가 사용량에 대해 별도 과금제를 도입했다.

한편 AI가 만든 코드가 많아지면서, 동시에 검증과 보안 관리가 따라가지 못하는 ‘코드 과잉’ 문제가 현실화하고 있다. 뉴욕타임스(NYT)는 미국의 한 금융 기업이 AI 코딩 도구를 도입하면서 최근 월간 코드 생산량이 2만5000줄에서 25만줄로 늘어났는데, 검토가 필요한 코드가 100만줄 이상 쌓이면서 관리 부담이 늘고 있다고 보도했다. NYT는 “코드 품질과 보안 취약점 관리가 과제로 부상하고 있다”며 “코드 생산 속도를 검증 체계가 따라가지 못하는 게 문제”라고 지적했다.

AI 확산으로 사이버 공격 속도와 자동화 수준이 급격히 높아지면서 보안 위협도 구조적으로 변하고 있다. AI 에이전트는 스스로 목표를 설정하고 여러 단계를 거쳐 작업을 수행할 수 있는 만큼 취약점 탐지부터 공격 실행, 실패 시 전략 수정까지 전 과정을 자동으로 반복할 수 있기 때문이다. 올해 미국 사이버보안기업 맨디언트가 발표한 보고서에 따르면 기존 사이버 공격이 일정한 준비 기간을 거쳐 이뤄졌다면, 앞으로는 AI가 취약점 공개 직후 곧바로 공격을 실행할 수 있는 구조로 바뀌고 있다고 지적했다. 이는 기업과 기관이 보안 패치를 적용할 수 있는 시간적 여유가 급격히 줄어들고 있음을 의미한다. 특히 공격 과정이 자동화하면서 한 번의 취약점 발견이 대규모 공격으로 확산될 가능성도 커지고 있다.

이러한 위협에 대응하기 위해 앤스로픽은 이날 최고급 AI 모델 ‘미토스’의 프리뷰 버전에 대한 접근 권한을 일반에는 공개하지 않고, 마이크로소프트·구글·애플·엔비디아를 비롯한 40여 개 기업과 기관에만 방어 목적으로 제공한다고 밝혔다.