앤트로픽 "모델 개발 속도 늦춰야"…'스스로 진화하는 AI 위험' 경고

"인간 개입 없는 '재귀적 자기 개선' 현상, 예상보다 빠를 수도"

(지디넷코리아=김미정 기자)앤트로픽이 인공지능(AI) 개발 속도를 늦출 수 있는 글로벌 논의 필요성을 제기했다.

4일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 앤트로픽은 블로그 게시글을 통해 주요 AI 연구소들이 개발 속도 조절 방안을 검토해야 한다고 주장했다.

앤트로픽은 "AI 시스템이 인간 개입 없이 스스로 개선할 수 있는 단계에 가까워질 수 있다"며 "전 세계 AI 개발 속도를 늦추는 것이 바람직할 것"이라고 내다봤다.

해당 게시글에는 모델 발전이 '재귀적 자기 개선'으로 향하고 있다고 봤다. 재귀적 자기 개선은 AI 시스템이 인간 개입 없이 스스로 업그레이드하는 현상을 뜻한다.

앤트로픽은 이 현상이 아직 일어나지 않았지만, 향후 발생할 것으로 봤다. 또 다수 기관이 이에 대비하기 전에 예상보다 빨리 올 수 있다고 관측했다.

개발 속도를 늦추기 위한 글로벌 합의와 이를 검증할 수 있는 체계 필요성도 거론했다. 또 경쟁사들이 합의를 실제로 지키는지 확인할 장치가 필요하다고 주장했다.

그동안 앤트로픽 경영진은 강력한 AI 시스템이 미래에 위험한 영향을 초래할 수 있다고 경고해 왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 불평등을 악화하고 초급 사무직 일자리 절반을 없앨 수 있다고 언급한 바 있다.

반면 얀 르쿤 전 메타 최고 AI 과학자처럼 거대언어모델(LLM) 기반 시스템이 인간 지능에 도달하지 못하다 보는 견해도 있다.

잭 클라크 앤트로픽 공동창업자 겸 공익 부문 책임자는 재귀적 자기 개선이 세계를 바꿀 수 있는 분기점이라고 봤다.

그는 "사회 구조가 기술 발전 속도를 따라잡을 수 있도록 프런티어 AI 개발을 늦추거나 일시적으로 중단할 수 있는 선택지를 세계가 갖는 것이 바람직하다고 믿는다"며 "AI 기업 밖 사람들도 이에 참여해야 한다"고 밝혔다.

김미정 기자(notyetkim@zdnet.co.kr)

IT/과학