누구를 죽일지 ‘추천’하는 AI, 전쟁터에 도입된 인공지능 [테크 너머]

인공지능(AI)은 전쟁터에서 어마어마한 영향력을 발휘한다. 이제는 누군가 방아쇠를 당기지 않아도, 버튼을 누르지 않아도 사람을 죽일 수 있다. 공격에 대한 책임 소재마저 모호하게 만든다.

10월17일 ‘서울 아덱스 2023’ 개막식에 참석한 윤석열 대통령은 AI 디지털 기술을 강조했다. ⓒ대통령실 제공

전쟁이 끊이질 않는다. 2021년엔 미얀마에서 내전이 일어났고, 2022년에는 러시아가 우크라이나를 침공했다. 올해는 이스라엘이 팔레스타인에 무자비한 폭격을 쏟아부어 수많은 사람이 죽었다. 하마스가 납치한 여성들의 생사도 알 수 없다. 수많은 총탄이 오가는 사이 많은 사람이 죽거나 다쳤고, 살아남은 사람들도 여전히 공포와 위험 속에 놓여 있다.

지구 곳곳에서 수년간 전쟁이 계속 발발하고 있지만, 어떤 사람들은 이 전쟁에 아무런 관심도 없을 수 있다. 전쟁이 일어나는 곳은 비행기를 타도 열 시간이 넘고, 아무래도 우리 사회와 관련 없어 보이는 머나먼 땅이니까. 그러나 전쟁터가 아닐 뿐이지, 우리 사회 역시 전쟁과 깊숙이 연관되어 있다. 우리나라는 세계에서 열 손가락 안에 꼽히는 방산 수출국으로, 올해는 수출액 200억 달러를 목표로 할만큼 그 위용이 어마어마하다. 첨단무기를 새롭게 선보이고 전시하는 ‘서울 항공우주·방위산업전시회(아덱스·ADEX) 2023’ 행사가 올해 역대 최대 규모로 개최된 것 역시 이와 연관되어 있다. 지난 8월, 윤석열 대통령이 군부 쿠데타로 집권한 미얀마의 대사를 국산 무기 홍보 행사에 초대했다가 유엔 산하 인권기관으로부터 경고받은 일화도 떠오른다.

윤석열 대통령은 이번 ‘서울 아덱스 2023’에서 “미래 전장 환경에서 승리의 관건은… AI 디지털 기술”이라고 언급한 바 있다. 실제로 무기를 만들어내는 방위산업은 IT 기술과 밀접하게 맞닿아 있고, 이러한 관계는 인공지능(AI) 개발 국면에 접어들면서 심화되고 있다. 무엇보다 투자금이 어디로 집중되는지를 보면, 이런 흐름이 쉽게 파악된다. 미국 경제지 〈파이낸셜타임스〉에 따르면 실리콘밸리에서 방위산업 분야 스타트업에 대한 투자는 2019년 160억 달러 미만에서 2022년 330억 달러로 두 배가량 급증했다. 올해 1분기에도 145억 달러를 투자했다. 테크업계가 전반적으로 재정난에 허덕이는 지금, 방위산업은 승승장구하고 있다.

이러한 흐름은 국내에서도 발견된다. 지난해 한화시스템과 군인공제회가 각각 400억원을 출자해 총 800억원 규모의 국방 벤처 펀드를 조성했고, 유진투자증권과 LIG넥스원도 업무협약을 맺어 방산 투자펀드를 조성하기로 했다. 스타트업이 탱크나 비행기를 만들 순 없어도, 드론과 AI 기술에서는 경쟁력을 가질 수 있기 때문이다. 실제로 최근 전쟁터에서는 이런 기술들이 열띠게 사용되고 있다.

AI는 전쟁터에서 어마어마한 영향력을 발휘한다. 지난해 러시아가 우크라이나를 침공했을 때, 목표물을 조준하고 자동으로 폭발하는 방식의 AI 드론이 투입되었다는 뉴스가 전해져 전 세계가 큰 충격에 빠졌다. 이 드론은 자폭하는 속성 때문에 일명 ‘가미카제 드론’이라 불린다. 실제 그 드론이 전쟁터에 투입되었는지는 확인할 수 없지만, 그러한 드론이 있다는 것 자체는 사실이다. 국내에서도 도입을 검토 중이다. 지난 8월9일 〈뉴데일리〉 보도에 따르면, 최근 창설된 드론작전사령부에서 ‘자폭 드론’을 서해 백령도에 배치하는 방안을 추진 중이다.

사람의 결정을 거치지 않는 자율 살상무기

현재 국제사회가 주목하는 중동 갈등에서도 AI 무기는 인권침해와 관련해 심각한 논점을 지니고 있다. 이스라엘의 AI 전쟁 기술은 국제사회에 그 실체가 잘 알려져 있진 않지만, 전쟁 현장에서는 이미 활발히 사용 중이다. ‘AI 로봇 기관총’을 아시는지? 이 기관총은 표적의 얼굴을 인지해 자동으로 총격을 가하는 안면인식 기능을 갖추었다. 2021년 이란 핵 과학자 모센 파크리자데가 이동 중 총격을 받고 사망했는데, 〈뉴욕타임스〉는 이 공격을 한 것이 이스라엘의 AI 로봇 기관총이라고 전했다. AI 로봇 기관총이 모센 파크리자데의 얼굴을 자동으로 인식해 조준 사격한 것이다.

<뉴욕타임스>는 이란 핵 과학자 모센 파크리자데(가운데 사진)가 이스라엘 AI 로봇의 총격으로 숨졌다고 보도했다. ⓒAP Photo

이 AI 무기는 ‘암살’에만 사용되는 게 아니라 일반 행인과 시위대를 조준하고 있기까지 하다. 이스라엘은 지난해 사람들이 통행하는 검문소에 이 로봇 기관총을 설치했기 때문이다. 행동이 눈에 보이는 사람과 달리 AI 로봇 기관총은 언제 어떻게 갑작스럽게 총격할지 모르는 만큼, 그 누구라도 검문소를 지날 때마다 공포에 떨었을 것이다.

그뿐만이 아니다. 이번 이스라엘-팔레스타인 분쟁에서는 소문이 무성했던 군사용 AI 모델 ‘파이어 팩토리’ 역시 현장에서 활용되고 있다고 한다. 파이어 팩토리는 목표물을 확인해 어떤 것을 공격할지 공습 대상을 제안하는 시스템이다. 우리의 일상에서 광고나 상품을 추천하곤 했던 AI 알고리즘은 전쟁터에서 누구의 목숨을 빼앗을지마저 ‘추천’한다.

이런 뉴스들을 수시로 접하면서, 오래전 보았던 영화 〈불한당〉의 대사가 불현듯 떠올랐다. 〈불한당〉의 ‘병갑’은 이런 말을 한다. 석기시대에는 돌로 사람을 찍어 죽이고, 그 이후에는 칼이나 도끼를 썼는데 요즘에는 총으로 죽인다고. 아무래도 거리가 있다 보니, 칼이나 도끼보다는 총이 더 죄의식을 덜어준다고 말이다. 이런 대사를 술술 풀어내기 전, 그는 의미심장하게 말한다. “죄의식이라는 게 작업 방식을 많이 발전시켰어.” 아닌 게 아니라 이제는 누군가 방아쇠를 당기지 않아도, 버튼을 누르지 않아도 사람을 죽일 수 있다. AI가 죽일 대상을 추천해주고, 또 자동으로 총을 쏘기도 하니까. 이러한 ‘자동화’는 확실히 죄의식을 덜어준다. 게다가 공격에 대한 책임 소재마저 모호하게 만든다.

지난 1월, 생성형 AI가 막 인기를 얻기 시작할 무렵 과학 학술지 〈네이처〉는 ‘대규모 언어모델(LLM)을 논문의 저자로 인정하지 않겠다’고 발표한 바 있다. 이유는 간명했다. 챗지피티(ChatGPT)와 같은 AI는 연구에 책임을 질 수 없기 때문이다. 그런데 지금 전쟁터에서 활용되는 AI는 어떤가. 그들은 자신들이 구성하고 제안하는 전략에 과연 책임을 질 수 있는가? 사람이 죽고 사는 문제를 AI에 맡긴다는 발상은 병갑의 말마따나 실로 ‘발전된 작업 방식’이 아닐 수 없다. 사람들은 죽어나가는데, 그 죽음에 죄의식을 가지거나 책임을 지는 이가 없어지니 말이다. 사람의 결정을 거치지 않는 자율 살상무기에 반대하는 목소리는 있지만, 전쟁터에는 이미 AI가 속속 배치되고 있다. 그와 동시에 전쟁을 기회 삼듯 방위산업 유관 주식은 고공 행진 중이다. 그러니 묻고 싶다. 정말 우리 사회는 전쟁과 무관한가?

조경숙 (테크-페미 활동가) editor@sisain.co.kr