앤트로픽 연구원의 경고 "AI, 10년 안에 인류 멸망시킬 수도"

인간 통제 벗어나 명령 거부하는 수준까지 발전
"내년 말이면 상황이 통제 불능에 빠질 수 있어"

연합뉴스

미국 인공지능(AI) 기업 앤트로픽의 한 연구원이 AI가 10년 안에 인류를 파멸시킬 수 있다고 주장하며 퇴사했다.

앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 AI 시스템 개발 경쟁을 벌이는 업계를 향해 우려를 담은 글을 올렸다.

영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구해왔다.

그는 그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 지적했다.

특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다.

콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했다.

또 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 미 일간 월스트리트저널(WSJ)에 말했다.

연합뉴스

앤트로픽 내부 임원들도 이같은 주장에 동의했다.

앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 "제이컵의 말이 맞다. 우리는 진정으로 AI가 모든 인류를 멸망시킬 수 있다고 믿고 있다"며 "개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다"고 말했다.

새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 "AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다"며 "향후 몇 년 내에 발생할 수 있다"고 강조했다.

마크스 총괄은 "일반적으로 직급이 높을수록 이 문제에 대해 더 큰 우려를 하고 있다"며 "그런데도 AI 개발을 지속하는 것은 상업적 인센티브와 함께 기술을 악용할 수 있는 개발자들과 경쟁하고 있다는 믿음이 복합적으로 작용하고 있기 때문"이라고 말했다.

콕슨은 오픈AI와 앤트로픽에 대해 "모두 책임감 있게 행동하고 있지 않다"며 "이들은 스스로 발전하는 초지능을 향해 질주하면서 우리 목숨을 도박 거리로 삼고 있다"고 비판했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 :jebo@cbs.co.kr
• 카카오톡 :@노컷뉴스
• 사이트 :https://url.kr/b71afn

워싱턴=CBS노컷뉴스 박지환 특파원 violet@cbs.co.kr

진실은 노컷, 거짓은 칼컷