오픈AI·앤스로픽 수장이 동시에 ‘AI 개발 속도 조절’ 꺼낸 이유는?

(왼쪽부터) 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO / 연합뉴스

AI 모델 클로드를 운영하는 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 지난 12일 AI 기업에 독립 평가자를 두고 주요 업체가 공동 안전 기준을 만든 뒤 이를 국제 공조로 확대하는 ‘AI 개발 감속 3단계안’을 제안했다. 샘 올트먼 오픈AI CEO도 독립 평가자 도입에 참여하겠다는 뜻을 밝혔다. 글로벌 AI 개발 경쟁을 이끄는 두 기업 수장이 나란히 개발 속도를 늦추는 ‘브레이크’ 도입을 언급한 것이다.

두 CEO가 손을 잡으려는 배경에는 역설적으로 갈수록 빨라지는 AI 개발 경쟁이 있다. AI 모델 분석 업체 아티피셜 애널리시스에 따르면, 오픈AI·구글·앤스로픽·메타·xAI 등 주요 업체가 내놓은 프런티어 AI 모델의 출시 간격 중앙값이 2023년 37.5일에서 올해 11일로 줄었다. 중앙값은 각 연도의 주요 모델 간 출시 간격을 짧은 순서대로 늘어놓았을 때 가운데 값을 말한다. AI 업계의 최전선급 모델이 시장에 얼마나 자주 새로 등장하는가를 보여준다. 업계에서 새로운 최전선 모델이 등장하는 빈도가 그만큼 높아졌다는 의미다. 오픈AI만 따져도 주요 모델 출시 간격 중앙값이 같은 기간 170.5일에서 49일로, 앤스로픽은 126일에서 71.5일로 짧아졌다.

문제는 단일 기업 혼자 AI 개발 속도를 늦추기 어려워졌다는 점이다. 오픈AI가 안전성 검증을 위해 신모델 출시를 몇 달 늦추는 사이 구글이나 앤스로픽이 더 뛰어난 모델을 내놓으면 고객과 개발자뿐 아니라 투자금과 핵심 인재까지 경쟁사로 이동할 수 있다. 미국 기업끼리 합의하더라도 중국 업체가 계속 개발할 가능성도 있다. 모두 함께 천천히 가는 편이 안전하지만 상대가 달리는 상황에서 자신만 멈추면 손해를 보는 ‘죄수의 딜레마’인 셈이다.

최근엔 AI 고도화로 AI 스스로 개발 속도를 끌어올리고 있다 점도 속도 조절을 어렵게 한다. 현재 오픈AI, 앤스로픽 등에선 AI 코딩 에이전트에 코드 작성과 디버깅(오류 수정), 실험·분석 등을 맡기면서 기존과 같은 개발 인력으로 더 많은 연구를 수행하고 있다. AI 성능이 좋아질수록 다음 AI 개발이 빨라지고, 이는 다시 기업 간 경쟁을 가속하는 자기 강화 구조가 만들어지는 것이다.

테크 업계 관계자는 “새 AI 모델에 대한 안전성 검증, 규제 마련은 개발 속도를 따라잡지 못하고 있다”며 “AI 경쟁의 과제가 ‘누가 더 강한 모델을 먼저 만드느냐’를 넘어 ‘누가 먼저 멈춰도 손해 보지 않는 공동 브레이크를 만들 수 있느냐’로 옮겨가고 있다”고 했다.