"AI 인류 멸종 수준 위협될 수도"…미 보고서의 섬뜩한 경고

▲ 휴머노이드 로봇. 위 사진은 기사 내용과 관련이 없습니다.

빠르게 진화하는 인공지능(AI)이 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 미국에서 나왔습니다.

AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 미국 국무부의 의뢰를 받아 이번 주 발표한 보고서는 가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 개입해야 한다고 지적했습니다.

미국 CNN 방송은 현지시간 12일 보고서 내용을 전하면서 "빠르게 진화하는 AI로 인한 재앙적인 국가 안보 위험에 대한 경고"라고 짚었습니다.

CNN은 또 보고서에 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 담겼다고 전했습니다.

보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐습니다.

인터뷰한 인원은 200명이 넘습니다.

보고서는 크게 두 가지 위험을 꼽았습니다.

우선 가장 발전한 AI 시스템이 무기화되어 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다는 것입니다.

보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했습니다.

어느 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 개별적인 우려들도 AI 연구실 내에 존재했습니다.

보고서는 "AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했습니다.

그러면서 이러한 위협에 대응하기 위해 획기적인 조치에 나설 것을 촉구했습니다.

새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했습니다.

이홍갑 기자 gaplee@sbs.co.kr