"코덱스 한도를 다 썼는데 또 리셋됐다고?"
최근 한 달 동안 실제로 여러 차례 반복된 일이다. 비공식 모니터링 집계로는 최근 30일간 10여 차례다. 다만 무제한 전환이나 정식 한도 확대는 아니다. 이용자 증가와 서비스 장애 보상 등이 직접적인 리셋 배경이며, 코딩 에이전트의 토큰 소비가 커지면서 충분한 사용량 자체가 경쟁 요소로 떠올랐다.
28일 오픈 AI에서 AI 코딩 에이전트 '코덱스' 개발을 이끄는 티보 소티오는 엑스(X)를 통해 코덱스와 '챗GPT 워크'의 모든 유료 이용자 사용 한도를 초기화했다고 밝혔다. 이미 사용한 한도를 다시 채워주는 일시적인 조치다.
오픈AI는 이용자 증가와 서비스 장애 보상 등을 이유로 이런 초기화를 반복하고 있다. 비공식 모니터링 사이트 '코덱스 리셋 모니터'에서도 최근 한 달 동안 반복된 초기화가 확인됐다. 요금제 자체를 바꾸거나 코덱스를 상시 무제한으로 개방한 것은 아니다.
코딩 에이전트는 일반 챗봇보다 토큰과 연산 지원을 많이 쓴다. 저장소를 살펴보고 파일을 수정한 뒤 테스트하며, 오류가 나오면 다시 코드를 고친다. 여러 에이전트를 동시에 실행하면 이런 작업이 각각 반복돼 한도 소진 속도도 빨라진다.
오픈AI 연구진의 코덱스 이용 분석에 따르면 올해 상반기 활성 이용자는 5배 이상 증가했다. 매주 이용자의 10% 이상은 에이전트 3개 이상을 동시에 운용했다. 숙련 개발자가 직접 하면 8시간 넘게 걸릴 만한 작업을 AI에 맡기는 이용자도 빠르게 늘었다.
몇 시간짜리 작업을 맡긴 상태에서 사용 한도에 도달하면 개발 작업이 중간에 멈출 수 있다. 모델 성능이 높아져도 사용할 수 있는 토큰이 먼저 바닥나면 같은 시간 안에 처리할 수 있는 업무는 줄어든다. 개발자 입장에서는 성능뿐 아니라 얼마나 오래 작업을 이어갈 수 있는지도 중요하다.
엔트로픽도 같은 문제에 대응하고 있다. 지난 5월 '클로드 코드' 프로·맥스·팀·엔터프라이즈 요금제의 5시간 단위 이용 한도를 2배로 늘렸다. 일부 요금제에 적용했던 혼잡 시간대 제한도 없앴고, 클로드 오퍼스 API 호출 한도도 높였다.
클로드 코드의 기본 추론 강도를 높인 뒤 응답 지연과 과도한 토큰 사용이 발생하자 설정을 조정하고 전체 구독자의 이용 한도도 초기화했다. 고성능 모델을 오래 돌리는 이용자가 늘면서 한도 자체가 실제 개발 시간에 직접 영향을 주기 시작한 것이다.
개인적으로는 이번 한도 초기화를 오픈AI와 엔트로픽의 개발자 확보 경쟁으로 본다. 클로드 코드가 이용 한도를 늘리는 동안 코덱스가 반복적으로 한도를 다시 채워주는 것도 같은 맥락으로 읽힌다. 모델 성능 차이가 줄어드는 만큼, 이제는 개발자가 중간에 멈추지 않고 오래 쓸 수 있게 해주는 쪽이 더 유리해질 가능성이 크다.