구테흐스 유엔 사무총장, 살인로봇 금지 시켜야

제미나이

[파이낸셜뉴스] 안토니우 구테흐스 유엔사무총장이 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 강력히 촉구하고 나섰다.

6일(현지시간) 경제전문방송 CNBC 보도에 따르면 구테흐스 총장이 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의에서 연설을 통해 "인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격하여 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일"이라며 "이러한 무기들을 본질 그대로 '킬러 로봇'이라 부르자"고 강도 높게 비판했다. 이어 그는 킬러 로봇을 국제법으로 완전히 금지해야 한다고 주장했다.

구테흐스의 발언에 따라 올해 초 미 국방부와 AI 스타트업 앤스로픽 간의 갈등으로 촉발되었던 군사 분야 AI 규제 논쟁이 국제 무대에서 다시 뜨겁게 달아오를 전망이라고 CNBC는 전했다.

현재 민간용으로 개발된 AI 시스템과 반도체 칩이 실제 전장과 군 지휘부에 전방위로 도입되면서, 군대가 AI를 어느 수준까지 활용해야 하는지, 그리고 인간이 언제 개입해야 하는지를 둘러싼 논쟁이 가열되고 있다.

이 갈등은 올해 초 AI 안전성을 강조하는 기업인 앤스로픽이 미국 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구하면서 수면 위로 떠올랐다. 당시 앤스로픽의 도구를 활발히 사용하던 미 국방부는 "모든 합법적인 목적에 AI를 사용할 수 있어야 한다"며 거부했고, 두 기관은 현재까지도 법정 공방을 벌이고 있다.

종교계 역시 우려의 목소리를 보탰다. 교황 레오 14세는 올봄 발표한 회칙을 통해 AI 통제 무기와 자율 전쟁의 금지를 촉구하며, AI 시스템이 "인간성을 부정하는 세계관을 정당화할 위험이 있다"고 경고했다. 교황은 AI 기반 무기 체계가 첨단 기술을 보유한 국가들의 전쟁에 대한 정치적 부담을 낮춰, 오히려 "전쟁을 더 쉽게 만들고 인간의 통제력을 약화시킬 것"이라고 지적했다.

반면 방위산업체와 AI 무기 도입을 지지하는 측은 자율무기가 여전히 인간의 통제 하에 운용될 것이라고 반박한다. AI는 인간 지휘관이 더 빠르고 정확하게 결정을 내릴 수 있도록 돕는 보조 수단일 뿐이라는 입장이다.

그러나 반대론자들의 시각은 다르다. 긴박한 전장 상황에서 오작동 가능성이 있는 AI 기계에 통제권을 넘겨주는 것은 극도로 위험하다는 지적이다. 특히 AI 안전 운동가들은 AI 시스템이 인간의 통제를 벗어나 창조주를 공격할 수 있다는 본질적인 공포를 제기하며, AI의 무기화가 이러한 재앙을 가속화할 뿐이라고 경고하고 있다.

이번 논쟁은 대규모 일자리 대체, 전력 소비 급증에 따른 전기 요금 인상 등 AI 혁명의 부작용에 대한 대중적 반감이 커지는 시점과 맞물려 있다. 미국 도널드 트럼프 행정부는 지난달 앤스로픽의 강력한 AI 모델 2종에 대한 몇 주간의 수출 금지 조치를 해제했으나, AI 시스템 규제 방식을 둘러싼 진통은 여전히 계속되고 있다. 미 정부는 AI 모델 출시 전 안전성을 검증하는 프로세스를 마련 중이라고 밝혔다.

jjyoon@fnnews.com 윤재준 기자