"AI, 인류에 '멸종 수준' 위협 제기 가능성" 美국무부 위탁보고서

美국무부 의뢰 민간보고서…"국가안보 등 분야에 재앙적 위협 가능"
"핵무기 수준으로 세계 안보 불안하게 할 잠재력 있어"

[바르셀로나=뉴시스] 사진공동취재단 = 인공지능(AI)이 향후 인류에 멸종에 준하는 위협을 제기할 수 있다는 내용의 국무부 의뢰 보고서가 나왔다고 CNN이 12일(현지시간) 보도했다. 사진은 세계 최대 이동통신 전시회 '모바일 월드 콩그레스(MWC) 2024' 개막 사흘째인 지난달 28일 스페인 바르셀로나 피라 그란 비아 전시장을 찾은 관람객들이 E&의 인공지능(AI) 휴머노이드 로봇 '아메카'를 관람하는 모습. 2024.03.13.

[서울=뉴시스] 김난영 기자 = 인공지능(AI)이 향후 인류에 멸종에 준하는 위협을 제기할 수 있다는 경고가 미국 국무부 의뢰 보고서에서 나왔다.

12일(현지시간) CNN에 따르면 미국 민간 업체 글래드스톤 AI는 최근 이런 내용을 담은 보고서를 발표했다. 해당 보고서는 미국 국무부가 의뢰한 것으로, 빠르게 진화하는 AI가 향후 국가안보 등 분야에 재앙적인 위협을 제기할 수 있다는 경고를 담았다.

보고서는 1년 이상의 기간 200명 이상을 상대로 진행한 인터뷰 등을 토대로 했다. 인터뷰 대상에는 선두 AI 기업 경영진을 비롯해 사이버안보 연구자, 대량살상무기(WMD) 전문가, 정부 내 국가안보 당국자 등이 포함됐다고 한다.

보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 보고 있다. 첫째로 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 사용될 수 있다는 것이다. 아울러 향후 인간이 그들이 개발한 AI에 대한 통제를 잃을 수 있다는 게 두 번째 위협이다.

보고서는 이 경우 세계 안보에 재앙적인 결과를 초래할 수 있다며 "AI와 범용인공지능(AGI)의 부상은 핵무기 개발을 연상케 하는 방식으로 세계 안보를 불안하게 할 잠재력이 있다"라고 지적했다. 특히 AI 무기 경쟁과 분쟁, WMD급 치명적 사고 발생 가능성을 경고했다.

이런 상황에서 "미국 정부의 개입 필요성이 매우 분명하고 긴급하다"라는 게 보고서의 지적이다. 보고서는 경쟁 압박으로 각 기업이 안전과 보안을 대가로 치르더라도 AI 개발을 가속하도록 떠밀리고 있으며, AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다.

관건은 AI가 얼마나 빠르게 진화하느냐다. 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능력을 지닌 AGI의 진화 속도에 보고서는 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다.

아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘 타격이 큰 사이버공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다.

CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 'AI 대부' 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

☞공감언론 뉴시스 imzero@newsis.com