"AI 내년말에 통제불능 될지도" 앤트로픽 연구원 사표 경고

〈사진출처=로이터 연합뉴스〉

앤트로픽에서 인공지능(AI) 모델 훈련을 담당하던 연구원이 AI가 인간의 통제를 벗어날 위험을 경고하며 사임했습니다.

현지시간 8일 미국 월스트리트저널(WSJ)은 영국 출신의 27세 제이콥 콕슨 앤트로픽 연구원이 이날 스스로 성능을 개선할 수 있는 AI 시스템 개발 경쟁에 동참하고 싶지 않다며 퇴사 의사를 밝혔다고 보도했습니다.

콕슨은 이 같은 시스템이 통제 불능 상태에 빠져 인류에 심각한 위협이 될 수 있다고 우려하며 "가장 극단적인 시나리오들이 현실화할 가능성이 높다. 내년 말쯤에는 통제 불능 상황에 빠질 수 있다"고 경고했습니다.

특히 AI 기업들이 중국 신생 기업 등과 치열하게 경쟁하는 상황에서 안전 타협이 불가하다고 지적했습니다.

원래 오픈AI 연구원이었던 콕슨은 올해 초 앤트로픽의 '모델 안전성 확보' 노력에 매력을 느껴 합류한 것으로 알려졌습니다.

그는 앤트로픽의 안전성 확보 노력이 진정성 있다고 평가하면서도, 정부 개입이나 업계 차원의 개발 속도 제한 없이는 어떤 기업도 인간을 능가하는 범용인공지능(AGI)을 책임감 있게 개발할 수 없다고 주장했습니다.

실제 최근 오픈AI와 앤트로픽 등의 AI 모델들은 잇따라 인간의 지시 없이 해킹에 나서기도 했습니다

콕슨은 이와 관련해 "시스템이 스스로 개선되기 시작하면 명령을 거부할 정도로 발전할 수 있다"고 우려했습니다.

콕슨은 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원이 됐습니다.