"AI 개발 속도 늦추자"는 앤트로픽 CEO 제안에…올트먼·머스크도 동참

아모데이 CEO "AI가 다음 AI 스스로 개발"
"AI 발전 속도 극적…모델 향상 속도 늦춰야"

클로드 개발사 앤트로픽의 다리오 아모데이 앤트로픽 최고경영자(CEO)가 인공지능(AI) 오용 가능성을 경고하며 안전 장치를 마련하고 모델 성능 향상 속도를 늦출 것을 촉구한 가운데 샘 올트먼과 일론 머스크 등도 동참 의사를 밝혔다.

12일 아모데이 CEO는 개인 홈페이지에 올린 게시물에서 "지난 몇 달 동안 (AI가 야기할) 위험을 해결하려면 더 큰 신중함이 필요함을 확신하게 됐다"며 "AI 모델의 성능을 향상시키는 속도를 늦춰야 한다"며 이같이 밝혔다.

이어 "우리는 이 시간을 활용해 최첨단 AI 기업들의 보안과 엄밀성을 높여 우리가 더 확신할 수 있는 수준으로 정렬된 모델을 만들 수 있다"고 부연했다.

이 같은 주장의 배경에는 AI 발전 속도가 예상보다 훨씬 더 빠르기 때문이다.

아모데이 CEO는 "이번 여름부터 AI 발전속도가 극적으로 빨라졌다"며 "이는 AI가 차세대 AI를 만드는 능력을 점점 더 갖추고 있기 때문"이라고 했다.

그러면서 "이를 통제하지 않고 방치하면 AI 시스템을 이해하고 통제하는 인간의 능력을 앞질러 버릴 수 있다"며 "이는 매우 신중하게 추진해야 하며 아예 추진하지 않아야 할 수도 있다"고 강조했다.

또 지난 7월 오픈AI의 AI 에이전트들이 통제 범위를 벗어나 허깅페이스를 해킹한 사건을 언급하며 "AI 능력 발전 속도가 가속하는 점을 고려하면 6~12개월 안에 이런 에이전트가 인터넷 전체를 장악할 수 있는 수준에 이를 수 있다"고 우려했다.

이같은 문제를 해결하기 위해 아모데이 CEO는 ▲AI 기업 내 상시 배치형 제3자 평가자 도입 ▲민주주의 국가 간 공조 ▲프론티어 모델 개발 속도 조절 등을 목표로 한 3단계 계획을 제안했다.

한편, 아모데이의 이같은 제안에 샘 올트먼 오픈 AI CEO와 일론 머스크 스페이스X 겸 xAI CEO도 나란히 지지 의사를 밝혔다.

올트먼 CEO는 자신의 소셜미디어에 "아모데이의 의견에 동의한다"며 "이는 최근 몇 주 동안 오픈AI에서 논의해온 핵심 주제"였다며 아모데이의 방침을 따르겠다는 뜻을 밝혔다.

또 일론 머스크 스페이스X 겸 xAI CEO도 동참 의지를 밝혔다.

김경문 머니투데이방송 MTN 기자

MTN 머니투데이방송