“표적만 타격” vs “AI엔 윤리가 없다” AI 논란속 각국 자율무기 배치 확대 [오픈AI 사태 후폭풍]

“살인서 인간 도덕적 양심까지 배제” 비판
“보편무기화되면 되돌릴 수 없어” 경고

인공지능을 탑재한 자율무기를 개발해 실제 전쟁에 배치하는 사례가 증가하면서 이에 대한 우려의 목소리가 커지고 있다. 사진은 2020년 미 해병대가 스스로 목표물을 탐지해 공격하는 스위치 블레이드 드론 훈련을 하는 모습. [미 해병대 제공]

오픈AI 사태로 인공지능(AI) 개발에 있어 안전성과 상용화 중 어느 쪽을 우선시해야 하는지 논란이 커지는 가운데 인간의 판단이 배제된 채 전장에서 공격을 하는 자율 무기의 위험성이 도마 위에 올랐다.

21일(현지시간) 뉴욕타임스(NYT)는 스스로 목표물을 설정하고 인간의 승인 없이 날아가서 처리할 수 있는 자율살상무기 ‘킬러드론’이 곧 전세계 전쟁터의 표준 무기로 자리잡을 수 있다고 전했다.

현재 미국과 중국 등은 AI를 탑재한 자율 드론을 개발했으며 이미 전장에 배치하고 있다.

실제 우크라이나 전쟁에서 쓰이고 있는 배회 탄약(loitering munitions) 드론은 몇 시간 동안 공중에 머물면서 수백 킬로미터에 걸쳐 적의 레이더 시스템을 찾아내 공격한다.

미국 군수업체 에어론바이런먼트 판매하는 ‘스위치 블레이드 600’ 드론은 적의 탱크 같은 목표물을 스스로 찾아가 공중에서 정확히 포탄을 떨어뜨린다.

미국 국방부 차원에서도 자율 무기를 대대적으로 배치할 준비를 하고 있음을 분명히 했다.

캐슬린 힉스 국방부 부장관은 지난 여름 “향후 2년 동안 수천대의 자율 무기 시스템을 배치”할 것이라고 발표했다. 토마스 햄스 국방부 연구원은 최근 발행한 연구자료에서 “AI무기를 제작하고 사용해야 한다”며 “재래식 분쟁에서 군인과 민간인 사망자를 줄일 수 있는 방법”이라고 주장했다.

반면 AI무기 도입 및 활용을 반대하는 목소리도 만만치 않다. 사람의 생사 결정을 도덕적 망설임이 없는 AI프로그램에 맡길 수 없단 것이다. 또 아군의 희생없이 적군을 죽일 수 있기 때문에 서로 점점 더 치명적인 무기를 개발하려는 악순화에 빠질 수 있다고 우려하고 있다.

오스트리아와 뉴질랜드, 스위스 등은 대표단을 꾸려 유엔에서 이를 저지하려 노력하고 있다. 또 국제적십자위원회(ICRC)와 군축옹호단체 등도 반대 목소리를 내고 있다.

오스트리아 대표단을 이끌고 있는 알렉산더 크멘트는 “자율살상무기는 인류에게 가장 중요한 변곡점 중 하나”라며 “인간이 무력사용 여부를 판단해야만 하는 건 근본적인 안보 및 법적 문제임과 동시에 윤리적 문제”라고 강조했다.

하지만 현실적으로 유엔이 실질적으로 법적 구속력이 있는 제한을 마련하기는 어려울 것으로 보인다. 미국뿐 아니라 러시아, 중국, 호주, 이스라엘 등이 모두 AI무기를 제한하는 새로운 국제법은 시기상조라고 주장하고 있기 때문이다.

콘스탄틴 보론초프 유엔주재 러시아 대표단 부단장은 지난달 유엔총회 회의에서 “지금은 (AI무기를 제한할) 적절한 시기라고 생각하지 않는다”고 말했다.

중국은 겉으론 AI무기 제한에 동의를 할 수 있지만, 실질적인 효과가 거의 없을 정도로 법적 한계를 좁게 정의할 가능성이 높다고 NYT는 지적했다.

릴 하시미 파키스탄 유엔대사는 “AI무기에 반대해 행동할 수 있는 기회의 창이 급속히 줄어들고 있다”고 우려했다. 카리브제도 섬나라 앤티카바부다의 가스톤 브라운 총리도 “이것은 디스토피아 소설의 줄거리가 아니라 다가오는 현실”이라고 말했다. 이민경 기자

think@heraldcorp.com