“AI, 인류 멸종 수준의 위협 될 수도”

미국의 민간업체 보고서
“임계값 넘으면 통제 불능
정부 개입 긴급한 필요성”

인공지능(AI)이 인류를 멸종시키는 수준의 위협이 될 수도 있다는 내용이 담긴 보고서가 나왔다고 CNN이 12일(현지시간) 보도했다.

보도에 따르면, 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰를 받아 이번주에 발표한 보고서는 가장 발전한 AI 시스템이 최악의 경우 “인류 멸종 수준의 위협”이 될 수 있다고 경고했다. 보고서는 주요 AI 기업의 최고경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보와 관련한 정부 당국자 등 200명이 넘는 관계자들을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다.

보고서는 기업들이 치열한 경쟁을 벌이면서 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 AI 시스템의 무기화로 인해 돌이킬 수 없는 피해가 발생할 수 있다고 경고했다. 보고서는 “AI와 AGI(범용인공지능·사람과 같거나 그 이상의 지능을 구현)의 부상으로 인해 핵무기 도입을 연상시키는 방식으로 세계 안보가 불안정해질 가능성이 있다”면서 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고 위험이 있다고 전망했다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”면서 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아가 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 지적했다.

보고서는 이 같은 위협에 대응하기 위해 새 AI 감독기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한해야 한다고 제안했다. 보고서 작성자들은 “미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다”고 밝혔다.

제러미 해리스 글래드스톤 최고경영자(CEO)는 “AI는 이미 경제적으로 혁신적인 기술”이라면서도 “그러나 이는 재앙적 위험을 포함한 심각한 위험을 초래할 수도 있다”고 CNN에 말했다. 그는 이어 “특정 임계값을 넘어서면 AI가 잠재적으로 통제할 수 없게 된다는 점을 시사하는 실증적 연구와 분석이 늘어나고 있다”고 말했다. 미 국무부 당국자는 AI가 미국의 국익을 보호하는 데 어떻게 부합할 수 있는지 지속적으로 평가하고 있다면서 이 보고서가 미국 정부의 견해를 대변하는 것은 아니라고 CNN에 말했다.

정원식 기자 bachwsik@kyunghyang.com