타격 표적 생성부터 가짜뉴스 선동까지…고삐 풀린 첨단기술 실험장이 된 전쟁터[사이월드]

‘두 개의 전쟁’을 더 참혹하게 만드는 AI

러시아·우크라이나 전쟁과 이스라엘·하마스 전쟁 뒤흔드는 ‘군사 인공지능 기술’
이스라엘군 AI 표적 생성 플랫폼 ‘복음’ 전장 투입 등 무분별한 사용에 우려 시선
“활용법에 국제 규범 합의 필요” 목소리 거세…첨예하게 얽힌 이해관계 해결 숙제

“인공지능(AI)이 국가와 지역을 파괴하는 지금의 분노를 더 키울 수 있다. 더욱 심각한 문제는 AI의 치명적인 오류가 전쟁이라는 안개에 가려졌다는 점이다. 정말 두렵다.”

오랜 기간 AI 관련 취재를 해온 칼럼니스트 브라이언 머천트는 지난달 로스앤젤레스타임스(LAT) 기고문에서 AI 기술을 동원한 이스라엘의 팔레스타인 가자지구 공격에 대해 이렇게 우려했다.

‘최초의 AI 전쟁’이란 수식어를 얻은 러시아와 우크라이나 전쟁에서 한발 더 나아간 이스라엘군은 가자지구 땅굴에 숨어든 하마스 대원의 위치를 식별하고 이들의 이동 경로를 파악하는 데 AI를 적극적으로 활용하고 있다. AI 기능이 탑재된 무인기(드론)가 직접 하마스 본부로 추정되는 건물을 때리기도 한다. 이스라엘 정부는 AI 기술이 팔레스타인 민간인 피해를 줄이고 효율적인 작전 전개에 도움을 준다고 강조한다.

일부 전문가들은 AI가 영향을 미치지 않는 분야를 찾기 어려운 지금, AI 기술을 전쟁에 도입하는 건 지극히 자연스러운 흐름이라고 주장한다. <AI 슈퍼파워> 저자인 리카이푸 시노베이션벤처스 최고경영자(CEO)는 미국 국방 전문 매체 내셔널디펜스와 인터뷰하며 “AI 시스템은 화약과 핵무기에 이어 제3의 전쟁 혁명이 될 것”이라며 “혁명은 지금 우리 눈앞에서 펼쳐지고 있다”고 표현했다.

하지만 우려의 목소리도 만만치 않다. 해당 기술이 완성 단계에 접어들지 않은 상황에서 AI를 과연 살상무기에 접목해도 괜찮은지에 대한 논란이 주를 이룬다. 전장에서 AI 기술을 어디까지 활용할 수 있는지와 관련해 국제사회 윤리 규범이 자리 잡지 않았다는 점도 한계로 꼽힌다. 여기에 AI가 양산하는 수많은 가짜뉴스와 이를 선전전에 이용하는 전쟁 당사자들의 행태도 문제로 지적된다.

우크라이나 병사들이 지난해 4월 러시아로부터 되찾은 부차에서 폐허가 된 거리를 살피고 있다. 로이터연합뉴스

이스라엘 병사들이 지난 8일(현지시간) 팔레스타인 가자지구 북부에서 작전을 수행하고 있다. 로이터연합뉴스

이스라엘 ‘AI 타기팅’은 믿을 만한가

영국 가디언은 지난 1일(현지시간) 이스라엘군이 ‘복음(the Gospel)’이라는 이름의 AI 표적 생성 플랫폼을 가자지구 지상 작전에 투입했다고 보도했다. 어떤 형태의 데이터가 복음에 입력돼 어떤 결과물이 생성되는지는 정확하게 알려진 바가 없지만, 현역 시절 해당 업무를 담당했던 복수의 퇴역 군인들은 가디언에 드론 영상과 감청한 통신 내용, 개인 또는 대규모 집단 움직임을 감시하며 얻은 정보가 복음에 입력된다고 설명했다. 이후 복음은 이 자료를 바탕으로 타격할 목표물을 생성해 이스라엘군에 제공한다.

아비브 코차비 전 이스라엘군 참모총장은 이번 전쟁이 발발하기 훨씬 전인 지난 6월 이스라엘 매체 와이넷과 인터뷰하며 “과거엔 연간 50개 정도의 목표물을 식별했다면, AI를 도입한 지금은 하루 100개의 목표물을 지정할 수 있다”고 설명했다. 이어 “식별된 목표물 가운데 절반을 선정해 공격한다”고 밝혔다.

이스라엘군은 AI 기술과 복음 시스템을 관리할 부대도 따로 만들었다. LAT에 따르면 이스라엘군은 2017년 “현대 전쟁에서 AI는 생존의 열쇠”라며 관련 부대 필요성을 강조했고, 2년 뒤 ‘표적 관리국’이라는 부대를 창설했다. 당시 이스라엘군은 “모든 카메라, 모든 탱크, 모든 군인에게 AI가 생성한 정보가 24시간 제공될 것”이라고 홍보했다. 이후 AI 기술을 실제 전장에서 활용한 첫 사례는 2021년 5월 하마스와의 충돌 때로 알려져 있다.

효과는 확실했다. AI 연구원과 데이터 과학자 등 200여명으로 구성된 ‘책임 있는 AI 커뮤니티’가 발표한 보고서에 따르면, 지난 10월7일 이스라엘과 하마스 전쟁 발발 이후 이스라엘군은 지난달 말까지 35일간 AI가 ‘적의 건물’로 식별한 목표물 가운데 1만1000곳 이상을 실제로 타격했다. 이는 2014년 하마스 전쟁에서 51일 동안 약 5000곳의 목표물을 공격했던 것과 비교해 크게 늘어난 수치다. 이스라엘 관료들은 표적의 대량 생산이 가능해졌다는 의미에서 이를 ‘공장’이라 부른다고 가디언은 전했다.

이스라엘 당국은 AI 기술 도입으로 민간인 피해를 최소화하면서도 하마스 관련 인프라를 겨냥한 정밀 공격이 가능하게 됐다고 주장한다. 이스라엘군 고위 관계자는 경제 매체 비즈니스인사이더에 “이번 사태와 관련 없는 무고한 가자지구 주민들은 AI ‘타기팅’ 기술로 앞선 전쟁보다 피해를 훨씬 적게 봤다”고 말했다.

하지만 많은 전문가들은 이스라엘군 주장에 신빙성이 떨어진다고 지적한다. 가디언은 익명의 소식통 말을 인용해 “AI가 제공한 정보엔 각 목표물 공격으로 얼마나 많은 민간인이 사망할지, 부수적인 피해 규모는 얼마나 되는지 등의 내용까지 담겨 있다”고 보도했다.

표적이 많아질수록 공습이 늘어나고, 이로 인한 민간인 피해는 더욱 커진다. 최근 이스라엘군은 하마스 대원 1명을 사살할 때 민간인이 최소 2명 사망했다는 사실을 인정한 바 있다. 이스라엘군의 한 관계자는 “이전에는 이스라엘군이 하마스 하급 대원들의 집은 폭격 대상으로 삼지 않았지만 복음 시스템을 통해 표적을 찾아낼 수 있게 되자 이제는 계급에 상관없이 모든 대원의 집을 표적으로 삼고 있다”고 가디언에 말했다. 2021년까지 군에 몸담았던 한 인사는 가디언에 “결국 공격 결정은 사령관이 내린다”며 “방아쇠를 당길 때 기뻐하는 모습을 봤다”고 토로했다.

실전에 도입하기엔 아직 AI 기술력이 부족하다는 의견도 있다. 미 싱크탱크 뉴아메리칸시큐리티센터 관계자는 LAT에 “AI 시스템은 훈련 데이터와 다른 상황에 놓일 때 여전히 불안정하고 취약한 모습을 보인다”며 “이는 민간인 사상자를 발생시킬 수도 있고, 나아가 아군을 공격할 수도 있다”고 꼬집었다.

러시아·우크라이나 전쟁에서도 비슷한 문제가 제기된다. 양측 모두 상대 얼굴을 인식하고 병참 위치를 파악하기 위해 AI 기술을 활용하고 있다. 러시아 관련 전문 매체 러시아매터스는 “끊임없이 변하는 전투 상황에 신속하게 대응할 수 있도록 도움을 주는 건 사실”이라면서도 “AI는 최고의 해결책이 아닌 조력자라는 점을 러시아와 우크라이나가 이해할 필요가 있다”고 지적했다.

AI 가짜뉴스가 전쟁에 미치는 폐해

AI 폐해는 전장 밖에서도 상당한 영향을 미치고 있다. AI가 만들어낸 가짜뉴스가 대표적이다. 이스라엘·하마스 전쟁 발발 이후 사회관계망서비스(SNS)엔 김정은 북한 국무위원장이 이스라엘을 지원하는 조 바이든 미 대통령을 비난했다는 영상이 퍼졌고, 이스라엘군이 가자지구 알시파 병원을 공격할 땐 해당 병원장이 이스라엘군에 욕설을 퍼붓는 영상이 공유됐지만 모두 가짜였다.

날로 진화하는 기술은 우려를 더한다. 뉴욕타임스(NYT)는 지난해 2월 러시아의 우크라이나 침공 이후 SNS에 게재된 볼로디미르 젤렌스키 우크라이나 대통령의 가짜 연설 영상은 “조잡한 티가 많이 나 오히려 조롱의 대상이 됐다”고 평가한 반면, 지난 6월 올라온 블라디미르 푸틴 러시아 대통령 영상은 러시아 일부 방송에서 인용해 보도할 만큼 감쪽같았다고 전했다.

문제는 러시아와 우크라이나, 이스라엘과 하마스 모두 가짜뉴스임을 알면서도 이를 선전전에 활용하고 있다는 사실이다. 상대방을 비난해 국제사회 여론을 자기편으로 만들고, 국민과 병력의 사기 증진을 위해 가짜뉴스를 이용하고 있다. 워싱턴포스트(WP)는 우크라이나 전쟁 발발 전 미 행정부 고위 관계자의 말을 인용해 “러시아가 침공 구실을 만들기 위해 우크라이나가 자국을 공격할 준비를 마쳤다는 내용이 담긴 가짜 영상을 만들어 유포할 계획을 세웠다”고 보도했고, 실제로 러시아 관영언론은 “우크라이나군이 돈바스 지역에서 러시아인을 대량 학살했다” 등의 출처 불명 보도를 대거 내보냈다.

하니 파리드 로스앤젤레스 캘리포니아대(UCLA) 컴퓨터공학과 교수는 NYT에 “AI와 딥페이크의 유령은 최근 전쟁에서 훨씬 영향력이 커졌다”면서 “수만개가 필요하지도 않다. 단 몇개의 가짜뉴스만 있으면 우물에 독을 뿌린 것처럼 모두를 의심하게 만들 수 있다”고 우려했다. 미국 미디어 교육기관 포인터 이사인 알렉스 마하데반은 “가짜뉴스로 사람들은 자신의 믿음을 확증하거나 감정적으로 만드는 무엇이든 믿는 시대가 됐다”며 “사실이 무엇인지는 중요하지 않다”고 지적했다.

AI 군사 활용 규범 합의는 요원

미국과 한국 등 전 세계 46개국은 지난달 13일 AI 기술을 군사 분야에 적용하는 데 있어 책임감 있게 행동하겠다는 내용을 골자로 한 선언문을 채택했다.

핵무기와 관련된 결정을 하는 데 있어서 인간이 AI를 통제하고, 모든 군사적 AI 능력을 개발할 시 정부 고위 관료의 감독을 받도록 하는 방안 등이 포함됐다.

카멀라 해리스 미 부통령은 선언문 채택에 앞서 “역사는 AI의 미래를 위한 토대를 마련한 이 순간을 기억할 것”이라고 치켜세웠다.

그러나 현실은 녹록지 않다. 우선 해당 선언문에 이스라엘과 러시아, 우크라이나가 이름을 올리지 않았다는 점에서 한계가 있다. 국제전략연구소(CSIS) 수석고문인 마크 캔시언은 폴리티코에 “AI 군사적 사용에 대해 국가 간 합의를 조율하는 것은 매우 어려운 과제”라고 평가했다.

폴리티코는 또 이스라엘 정부가 하마스 기습을 받자마자 미 실리콘밸리 업체 스카이디오에 AI 탑재 드론을 100대 이상 주문했다는 사실을 언급하며 “정교한 군대, 대규모 예산, 그리고 미국의 기술 산업과 긴밀한 관계를 유지하고 있는 이스라엘이 신무기를 선보일 수 있는 무대를 만들었다”고 지적했다.

손우성 기자 applepie@kyunghyang.com