폭격당한 텔아비브, 불탄 부르즈칼리파… 전부 AI발 ‘가짜’

중동전쟁 ‘악용’ AI 콘텐츠 주의보

‘조회수=수익’ 플랫폼 보상체계 탓
자극적인 하이브리드 합성물 활개
정부·업계 필터링 강화 등 대응 착수

영국 BBC가 분석한 바레인 소재 미 해군기지의 위성사진 비교 모습. 왼쪽은 구글 맵에 등록된 실제 위성사진이고, 오른쪽은 최근 엑스(X)를 통해 유포된 인공지능(AI) 조작 사진이다. 오른쪽 사진은 건물이 폭격으로 처참하게 파괴된 것처럼 묘사됐지만, 실제 지형 정보 위에 AI가 폭발 흔적만을 정교하게 덧입힌 ‘하이브리드 합성’이다. 구글 맵·엑스·BBC

미국의 이란 공습으로 중동 지역의 긴장이 최고조로 향하는 가운데, 온라인에서 인공지능(AI)이 생성한 가짜 콘텐츠가 실시간으로 유포되며 혼란이 커지고 있다. 이스라엘 텔아비브 상공에 미사일이 쏟아지거나 두바이 부르즈칼리파가 화염에 휩싸인 영상들이 소셜미디어(SNS)를 뒤덮었지만 모두 생성형 AI가 만든 가짜였다. 기술이 전장의 비극을 복제하고 혐오를 확산하는 증폭기로 활용되면서 과학기술계의 우려가 커지고 있다.

과학기술계는 9일 이번 허위 영상 유포 사태가 생성형 AI가 전쟁과 관련한 허위 정보를 생산하는 도구가 됐다는 점에서 걱정을 쏟아냈다. 과거에는 전문 장비와 인력이 필수적이었으나, 이제는 오픈AI의 ‘소라’나 구글의 ‘베오’ 같은 모델에 몇 줄의 텍스트만 입력하면 정교한 영상을 얻을 수 있다. 여기에 영상 편집·합성 특화 AI인 ‘런웨이’나 ‘피카’ 같은 도구를 활용한 자동 편집까지 더해지며 제작 공정은 비약적으로 단축됐다.

BBC 등 외신에 따르면 텔아비브 폭격 영상은 수백 개의 계정을 통해 재유포되며 수만 건의 공유를 기록했고, 가짜 부르즈칼리파 화재 영상의 조회수는 수천만 회에 달했다. 이들 영상의 상당수는 실제 현장을 촬영한 뒤 AI로 정교한 화염과 연기, 미사일 궤적을 덧입힌 ‘하이브리드 조작’ 형태였다. 특히 바레인의 미 해군 기지가 파괴된 것처럼 조작된 위성사진은 실제 공개된 위성사진 위에 AI가 폭발 흔적과 그을음을 덧입힌 것으로 확인됐다. 미국과 이란의 교전으로 전 세계적인 긴장감이 극에 달한 상황에서, 대중이 사실 확인보다 자극적인 영상에 먼저 반응하는 심리적 취약점을 파고든 결과다.

전쟁 시기에 허위 정보가 유통되는 현상 자체는 고전적인 선전 수법 중 하나다. 그간은 2023년 알제리의 축구 경기 축하 불꽃놀이 영상을 이란의 이스라엘 공습 장면으로 속이는 등 과거 영상을 날짜만 바꿔 속이는 방식이 주를 이뤘다. 하지만 생성형 AI는 존재하지 않는 피해 현장을 무에서 창조해낼 수 있다는 점에서 그 위험성이 차원이 다르다. 허위 정보의 기획자가 사람일지라도, AI는 그 거짓을 가장 그럴듯한 형태로 대량 복제해 유통하는 고성능 엔진 역할을 하고 있는 셈이다.

이러한 구조를 뒷받침하는 것은 조회수가 곧 수익으로 연결되는 플랫폼의 보상 체계다. 한 AI 개발사 관계자는 “콘텐츠 제작 비용은 사실상 제로에 가까워졌지만, 이를 가려내는 사회적 검증 비용은 오히려 기하급수적으로 늘어났다”며 “자극적인 정보가 더 빨리 확산되는 환경 속에서 기술이 공론장을 정화하기보다 오염시키는 도구로 소비되고 있다”고 우려했다. 혐오 게시물이나 가짜 영상이 사람들의 감정을 즉각적으로 자극할수록 플랫폼 내에서 더 큰 영향력을 얻는 구조적 모순이 발생하고 있는 것이다.

기술 오용에 대한 비판이 거세지자 기업과 정부도 대응에 나서고 있다. 최근 이용자의 요구에 따라 인종차별적 게시물을 생성해 논란을 빚은 엑스(X)는 해당 콘텐츠를 삭제하고, AI 챗봇 ‘그록’의 답변 생성 로직에 대한 자체 조사와 필터링 강화에 착수했다. X는 또 무력 충돌을 다루는 AI 영상에서 AI 생성 표식을 하지 않을 경우 90일간 퇴출하고, 재차 적발 시 영구 제명키로 했다.

민나리 기자