“첨단AI 무기화, 인류 멸종 수준 위협될 것”

美국무부 용역 AI업체 보고서
빅테크-안보 전문가 200명 인터뷰

최근 글로벌 시장에서 가장 뜨거운 관심사인 인공지능(AI)이 영화 ‘터미네이터’나 ‘어벤져스: 에이지 오브 울트론’처럼 인류를 종말로 몰고 갈 위협이 될 수 있단 보고서가 나왔다. AI가 탑재되면 어떤 무기보다 위험한 ‘대량살상무기’가 될 수 있으며, 세계 민주주의에도 엄청난 걸림돌이 될 수 있단 예측이 담겼다.

미국 CNN방송은 12일 “미 국무부 의뢰를 받아 민간업체 글래드스톤AI가 작성한 보고서는 AI의 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고하고 있다”고 전했다. 247쪽 분량에 이르는 이 보고서는 구글 딥마인드 등 빅테크 경영진과 사이버 보안 연구원, 무기 전문가, 안보 당국자 등 약 200명의 인터뷰를 바탕으로 작성됐다.

보고서는 AI 시스템의 무기화가 가장 심각한 문제라고 보고 있다. 인간 수준의 인식을 지닌 범용인공지능(AGI·Artificial General Intelligence)이 무기화되면 “생화학 무기나 사이버 테러를 설계하고 실행할 수 있으며, 기존에 없던 응용 무기를 만들 수 있기 때문”이다. 게다가 인간이 AI 무기에 대한 통제력을 상실할 수도 있다. 국가 안보나 보안에도 AI 개발은 악영향을 끼칠 수 있다. AI 기업들이 경쟁 압박에 시달려 안전 문제를 논외로 하고 개발을 가속화한다면, 국가적인 위협으로 번질 수 있다. 한 AI 연구소 관계자는 “차세대 첨단 AI 모델이 누구나 접근 가능한 오픈 소스가 된다면, 민주주의에도 ‘끔찍하게’ 나쁜 결과를 초래할 것”이라고 말했다. 보고서는 AI의 위협에 대응하려면 감독기관과 규제법안 마련을 서둘러야 한다고 제언했다.

김보라 기자 purple@donga.com