AI 4대 수장 "개발 속도 늦춰야" 한 목소리…트럼프는 "중국보다 앞서야"

아모데이, 재귀적 자기개선·AI 에이전트 통제 실패 경고
올트먼·머스크·허사비스도 이례적 속도조절론 동조
제3자 상주 평가자·민주국가 공동 안전기준 제안
트럼프, 안전장치 가능성 열면서도 AI 위험론은 일축

인공지능(AI) 개발 경쟁을 주도해온 글로벌 AI 기업 수장들이 이례적으로 한목소리로 "개발 속도를 늦춰야 한다"고 주장했다. AI가 인간의 통제를 벗어날 가능성을 더 이상 무시하기 어렵다는 이유에서다.

13일(현지시간) 외신 등에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 CBS 뉴스와의 인터뷰에서 AI 발전 속도를 "1, 2, 4, 8, 16, 32"로 이어지는 곡선에 비유하며 현재가 본격적으로 가팔라지는 단계라고 진단했다.

그는 "당장 패닉에 빠지거나 모든 것을 중단할 필요는 없다"면서도 "속도를 늦춰야 한다는 경고 신호"라고 강조했다. 특히 AI가 인간 개입 없이 스스로 더 뛰어난 AI를 만들어내는 '재귀적 자기개선' 단계에 가까워지고 있다는 점을 위험 요인으로 꼽았다.

아모데이는 지난 7월 오픈AI의 AI 에이전트들이 내부 사이버보안 시험 과정에서 통제 범위를 벗어나 허깅페이스 시스템에 접근한 사례도 언급했다.

더 강력한 AI 에이전트에서 비슷한 일이 벌어질 경우 피해 규모가 걷잡을 수 없이 커질 수 있으며, 6~12개월 안에 에이전트 집단이 인터넷을 장악할 가능성까지 있다고 경고했다.

해법으로는 AI 기업 내부에 제3자 안전 평가자를 상주시켜 직원 수준의 접근 권한을 제공하고, 민주주의 국가의 주요 AI 기업들이 공통 안전기준을 마련한 뒤 중국 등과도 국제적 합의를 추진하는 3단계 방안을 제시했다.

경쟁사들도 이례적으로 호응했다. 샘 올트먼 오픈AI CEO는 "프론티어의 속도를 조절해야 한다는 데 동의한다"며 독립 평가자에게 직원 수준의 접근권을 제공하는 방안을 오픈AI도 도입하겠다고 밝혔다.

xAI를 이끄는 일론 머스크는 "다리오가 맞다"고 했고, 데미스 허사비스 구글 딥마인드 CEO도 "올바른 방향"이라며 힘을 실었다.

최근 AI 업계 내부에서도 위험성을 경고하는 목소리가 커지고 있다. 앤트로픽 연구원 제이컵 콕슨은 지난 9일 회사를 떠나며 현재와 같은 개발 경쟁이 이어질 경우 AI가 인류에 심각한 위협이 될 수 있다고 주장했다.

최첨단 AI를 직접 개발하는 연구진 사이에서도 기술 발전 속도를 안전장치가 따라가지 못하고 있다는 우려가 표면화하는 모습이다.

평소 최첨단 AI 개발을 놓고 치열하게 경쟁해온 앤트로픽·오픈AI·xAI·구글 딥마인드 수장들이 동시에 브레이크를 주문한 셈이다.

하지만 도널드 트럼프 미국 대통령의 생각은 달랐다. 그는 이날 아일랜드에서 기자들과 만나 AI 개발 속도를 늦추거나 규제를 강화해야 하느냐는 질문에 "우리는 AI에서 중국을 앞서고 있다"며 "AI에서 승리하는 쪽이 결국 승리한다"고 말했다.

안전장치 자체에는 가능성을 열어뒀지만 AI 위험론에는 선을 그었다. 트럼프 대통령은 "제기할 필요가 없는 문제를 꺼내는 매우 부정적인 세력들이 많다"며 "그들은 일어나지 않을 일을 부각하고 있다"고 주장했다.

AI 업계를 이끄는 기업 수장들이 "너무 빨리 가고 있다"며 동시에 속도 조절을 요구하자, 미국 대통령은 중국과의 경쟁에서 뒤처지는 것이 오히려 더 큰 위험이라며 사실상 '계속 달리겠다'는 답을 내놓은 것이다.