"AI가 스스로를 개조한다"…앤트로픽 "업계 전체, 지금 당장 개발 속도 늦춰야"

인공지능(AI) 업계 차세대 선두주자로 급격히 떠오르고 있는 앤트로픽이 ‘재귀적 자기 개선’ 수준에 다다른 AI에 대응하기 위해 업계 전반이 개발 속도를 늦춰야 한다고 촉구하고 나섰다. 

앤트로픽. 로이터연합뉴스

4일(현지시간) 미국 월스트리트저널(WSJ)에 따르면 앤트로픽은 이날 블로그 게시물에 자사의 최첨단 AI 모델들이 얼마나 빠르게 발전하고 있는지 보여주는 내부 데이터를 공개하며 “전 세계적인 AI 개발 속도를 늦추는 것이 필요하다”고 밝혔다. 사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크가 작성한 해당 게시물은 AI 시스템의 발전이 인간의 개입 없이 스스로 개선할 수 있는 ‘재귀적 자기 개선’ 수준까지 접어들고 있는 것으로 보인다고 지적했다. 

이들은 아직은 재귀적 자기 개선이 일어나지 않았고 이것이 필연적인 것도 아니지만 “대부분 기관이 대비하는 것보다 더 빨리 도래할 수 있다”고 경고했다. 클라크는 과거에도 AI의 잠재적 위험과 AI 모델이 '재귀적 자기 개선' 단계에 도달할 경우 발생할 수 있는 잠재적 영향에 대해 자주 언급해 왔다. 그는 “그런 종류의 기술은 이전에는 존재한 적이 없지만 나는 이것이 향후 2년 안에, 어쩌면 더 빨리 일어날 수 있다고 믿는다”고 말했다.

‘재귀적 자기 개선’은 AI가 인간의 개입 없이 스스로 자신의 코드나 아키텍처를 분석하고 업그레이드해 자신을 이전보다 더 똑똑하고 발전된 차세대 AI로 개조하는 것을 말한다. 인간이 주도하는 사회적 논의 없이 AI의 판단만으로 모델 개선이 이루어지는 이 단계를 AI 전문가들은 AI 발전의 잠재적인 위험 신호이자 막대한 사회적 혼란의 전조로 보고 있다. 이에 파바로와 클라크는 “사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 세계가 갖는 것이 바람직하다고 믿는다”고 강조했다. 앤트로픽은 향후 몇 달 동안 정책 입안자, 연구원 및 관계자들과 재귀적 자기 개선 및 검증 시스템에 대한 대화를 계속할 계획이다.

서필웅 기자 seoseo@segye.com