미 “AI, 인류 멸종수준 위협될 수도”…EU, AI규제법 첫 통과

미국에서 인공지능(AI)이 인류를 멸종시킬 수준의 위협이 될 수 있다는 보고서가 나왔다. 이 보고서는 AI가 무기화하고 통제력이 상실된다면 세계 안보 위험이 커지므로 미 정부의 개입이 빨리 이뤄져야 한다고 강조했다.

11일(현지시간) 타임지에 따르면 AI 정책 조언 등을 제공하는 미 민간 업체 글래드스톤 AI는 이날 홈페이지에 ‘첨단 AI의 안전성과 보안성을 높이기 위한 실행방안’과 관련한 보고서를 발표했다. 총 247쪽에 달하는 보고서는 미 국무부의 의뢰로 작성됐다.

보고서의 골자는 최첨단 AI와 AGI(범용인공지능) 등장은 핵무기 도입을 연상시키는 방식으로, 최악의 경우 인류에게 멸종 수준의 위협을 초래해 세계 안보를 불안정하게 만들 가능성이 있다는 것이다. 보고서는 특히 최첨단 AI와 AGI의 큰 위험 요소로 ‘무기화’와 ‘통제력 상실’을 꼽았다. 보고서는 “이 시스템은 잠재적으로 생화학 및 사이버 전쟁을 설계하고 실행하는데 사용될 수 있고, 통제가 불가능해져 인간에게 적대적으로 행동할 수 있다”고 경고했다.

보고서는 또 AGI 진화 속도를 재앙적 위험의 핵심 요인으로 봤다. AGI는 대부분의 작업을 인간 수준 이상으로 수행하는 인공지능으로 공상과학 영화 등에 등장하고 있다. 아직 존재하지 않지만, AI 전문가들은 향후 5년 이내에 AGI가 나올 것으로 보고 있다. CNN에 따르면 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 오는 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혔다.

보고서는 이런 위협에 대응하기 위해 미 정부가 AI 개발에 신속하고 단호하게 개입해야 한다고 강조했다. 구체적으로 긴급 규제 안전장치와 새로운 AI 감독 기관을 만들고, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다. 아울러 첨단 AI 반도체 제조와 수출에 대한 통제도 강화할 것을 권고했다.

글래드스톤 AI 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술이지만, 사람들은 AI가 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다는 것도 알아야 한다”고 말했다. 그러면서 이런 위험성 때문에 AI 연구를 아예 그만두게 하는 것도 바람직하지 않다고 주장했다.

한편 유럽연합(EU) 의회가 13일(현지시간) AI 기술 규제 법안인 ‘AI법’을 최종 승인했다. 로이터통신 등에 따르면 유럽의회는 13일(현지 시간) 찬성 523표, 반대 46표, 무효 49표로 AI법을 통과시켰다. 생성형 AI의 위험성을 분류하고 기술 개발 과정에서 투명성을 강화하는 게 이 법의 골자다.

박소영 기자 park.soyoung0914@joongang.co.kr