불바다 된 이스라엘? AI '가짜 영상', 전쟁 선전 도구가 되다

[AI 미디어 파도] NYT, 미국-이란 전쟁 관련 AI 콘텐츠 110개 분석

[미디어오늘 박재령 기자]

▲ NYT가 수집한 AI 콘텐츠의 일부. 기사 갈무리

미국·이스라엘-이란 전쟁과 관련해 인공지능(AI)으로 제작된 가짜 영상들이 소셜미디어에 빠르게 확산되고 있는 것으로 나타났다. 러시아·우크라이나 전쟁 때보다 AI 영상의 수가 증가했다는 분석이 나온다.

뉴욕타임스(NYT)는 지난 13일 최근 2주간 소셜미디어에 확산된 전쟁 관련 AI 이미지·영상 110개 이상을 확인했다고 보도했다. 엑스, 틱톡, 페이스북 등의 소셜미디어에 무분별하게 퍼진 영상들로 실제와 구분이 어려운 폭격 영상이 수백만 회 조회수를 기록했다.

NYT는 “(영상에 등장하는) 건물의 실존 여부, 부자연스러운 움직임, 워터마크 등을 모두 확인해 명백한 AI 콘텐츠를 식별했다”며 “여러 AI 탐지 도구를 사용하고 타 언론사의 보도 내용과도 대조했다”고 밝혔다.

NYT는 검증한 AI 콘텐츠를 △미사일 폭격 등 전쟁을 묘사한 이미지·영상 37개 △전투기 출격 등 전쟁을 준비하는 이미지·영상 5개 △건물 붕괴 등 파괴상황을 묘사한 이미지·영상 8개 △울고 있는 군인을 만든 이미지·영상 5개 △전쟁을 '패러디' 혹은 '밈'으로 사용한 이미지·영상 43개 △ 기타 이미지·영상 13개 등으로 분류했다.

▲ NYT가 수집한 AI 콘텐츠의 일부. 기사 갈무리

대부분의 콘텐츠는 이란의 군사적 우월성을 강조하는 영상이었다. 가장 조회수가 높은 축에 속했던 영상은 이스라엘 텔아비브에 폭격이 떨어지는 허위영상이었는데 펄럭이는 이스라엘 국기가 함께 등장했다. 미국의 잘못된 폭격으로 초등학생 170명이 사망한 참사를 AI로 재현한 영상도 다수 있었다. 미국의 항공모함이 이란의 공격으로 침몰하는 영상도 인기를 끌었다. 국영 매체를 활용해 선전전을 펴고 있는 이란 당국 관련 계정이 제작한 콘텐츠가 포함된 것으로 보인다.

범람하는 AI 가짜 콘텐츠는 러시아-우크라이나 전쟁에서 나타났던 현상이기도 하다. 카타르 노스웨스턴대학의 마크 오웬 존스 교수는 NYT에 “우크라이나 전쟁 때보다도 AI 콘텐츠가 훨씬 더 많이 쏟아져 나오고 있다”며 “(이란이 공격하고 있는) 걸프 지역이 불타거나 파괴된 모습을 AI로 보여주는 것이 미 동맹국들에 효과가 있을 것이다. 더 큰 대가를 치르게 될 것이라는 인상을 심어줄 수 있기 때문”이라고 했다.

실제 촬영된 전쟁 영상은 AI로 제작된 것보다 더 차분하다고 NYT는 지적했다. NYT는 “실제 미사일 공격 영상은 대개 멀리서, 밤에 희미한 불빛 정도로만 촬영되는 경우가 많다”며 “폭발은 불덩어리보다 연기 기둥으로 나타나는 경우가 더 많다. 보통 사람들은 목표물이 명중하고 나서야 서둘러 현장을 촬영하곤 한다”고 했다. 이어 “AI 이미지와 영상은 실제와 달리 전쟁을 과장된 할리우드 영화처럼 묘사한다”고 지적했다.