"AI, 내년 말 통제 불가능" 사표 던진 앤트로픽 연구원...'인류 멸망' 경고

앤트로픽 연구원 제이콥 콕슨, AGI 개발 동참하고 싶지 않다며 퇴사

/로이터=뉴스1

AI(인공지능) 개발 스타트업 앤트로픽의 전문 연구원이 "가장 극단적인 시나리오가 현실화될 가능성이 높다"며 AI 개발 속도가 통제 불가능한 수준까지 치달을 수 있다는 경고를 남기고 퇴사했다.

9일(현지시간) 월스트리트저널(WSJ) 보도에 따르면 앤트로픽의 AI 훈련 연구원 제이콥 콕슨은 자가 개선이 가능한 AI를 개발하려는 업계 움직임에 동참하고 싶지 않다면서 퇴사한다고 밝혔다. 자가 개선은 인간과 같은 사고능력을 가진 일반인공지능(AGI)이 갖게 될 특성 중 하나로 꼽힌다.

콕슨은 AI가 인간 통제를 벗어나 인류를 멸망시킬 수 있다고 우려했다. 그는 미국 AI 개발 기업들이 중국 기업과 치열한 경쟁을 벌이고 있음을 지적하면서 "(경쟁에서 승리하기 위해) 안전을 희생하는 것은 불가피하다"고 비판했다. 이어 "가장 극단적인 시나리오가 현실화될 가능성이 높다"며 "내년 말쯤에는 통제 불가능한 상황이 찾아올 수 있다"고 경고했다.

콕슨은 "맨해튼 프로젝트처럼 사막 벙커에서 진행되는 게 아니라 샌프란시스코에 거주하는 엔지니어들의 맥북에서 이런 일이 벌어지고 있다니 어처구니가 없다"고 밝혔다. 맨해튼 프로젝트는 과거 미국의 핵무기 개발 계획이다. 핵무기와 같은 수준의 파급력을 지닌 AI 개발이 이렇다 할 규제 없이 기업과 개발자들 손에서 이뤄지는 것은 위험하다는 경고다.

앤트로픽 핵심 인력이자 세계적인 AI 전문가 에반 휴빙어는 엑스(X) 게시글에서 콕슨의 경고에 동감한다면서 "인공지능이 인류를 멸망시킬 수 있다"고 적었다. 그는 "개인적으로는 10년 안에 그렇게 될 가능성이 10% 이상이라고 생각한다"며 "앤트로픽은 최선을 다하고 있으나 초지능을 다룰 방법을 아직 마련하지 못했다"고 우려했다.

WSJ는 "앤트로픽 직원이 AI 안전 우려로 퇴사를 선택한 사례는 콕슨이 최초"라며 "여러 연구자들이 비슷한 우려를 이유로 오픈AI를 비롯한 여러 기업을 떠났다"고 했다.

최근 AI 최신 모델 '아스트라'로 이목을 끌고 있는 오픈AI의 야쿠브 파초키는 6일 블로그 게시글에서 "기계 지능의 지속적인 급속한 발전이 가져올 결과에 대해 아무도 대비하고 있지 않다는 점이 우려스럽다"며 AI 개발자들이 개발 속도를 조절하고 정부가 규제를 마련해야 한다고 촉구했다. 오픈AI는 아스트라에 대해 "가장 지능적인 모델"이라며 AGI의 시작점이 될 수 있다고 자평한 바 있다.

김종훈 기자 ninachum24@mt.co.kr
[내 주식이 궁금할땐 머니투데이]