[광화문에서/정양환]AI 베이루트 불바다 영상… 전쟁마저 침범한 가짜뉴스

정양환 국제부 차장

한 주를 마무리하던 일요일 6일 밤(현지 시간). 미국에선 5초짜리 영상 하나로 소셜미디어 틱톡과 X가 난리가 났다. 별다른 설명 없이 해시태그(#) ‘베이루트(Beirut)’가 붙은 동영상엔 레바논 수도의 중심가가 불바다로 뒤덮인 모습이 담겨 있었다. 밤하늘은 뿌연 잿빛 연기가 자욱했고, 주거용 아파트 단지들은 무너지기 일보 직전. 베이루트는 그야말로 초토화됐다.

반응은 제각각이었지만, 누가 이런 참사를 일으켰는진 아무도 의심하지 않았다. 1일 레바논 남부에 육군을 투입하며 지상전을 개시했고, 지난달부터 베이루트 일대에 대한 공습을 이어온 이스라엘 소행인 게 틀림없어 보였다. 특히 미 최대 무슬림 단체 ‘미국이슬람관계협의회(CAIR)’가 팔로어 20만 명이 넘는 공식 X에 이 영상을 게재하며 중동 전쟁에 반대하는 이들의 분노에 기름을 끼얹었다. 미 CBS방송에 따르면 해당 영상은 몇 시간 만에 조회수 1000만 회를 넘어섰다.

한데 다음 날, 허무하게도 ‘베이루트 불바다’ 영상은 가짜였음이 드러났다. 자칭 “인공지능(AI) 예술가”가 시중에 유통되는 AI 제작 도구로 만든 것이었다. 당시 이스라엘 공군이 베이루트 남부 교외 지역을 폭격하긴 했으나, 위치도 피해 규모도 크게 달랐다. 불과 하루 사이 벌어진 에피소드였지만 파장은 적지 않았다. 아랍권 알자지라 방송은 “거짓 AI 영상으로 인해 레바논은 물론 중동 전역이 혼돈에 빠질 뻔했다”고 전했다.

AI가 사람 목숨이 걸린 전쟁까지 혼란을 몰고 온 이런 현실은 어느 정도 예견된 일이었다. 올 2월 챗GPT 개발사 오픈AI가 프로젝트명 ‘소라(Sora)’란 AI 프로그램을 공개했을 때부터 우려가 쏟아졌다. 몇 줄 안 되는 문장을 입력하자 선사시대 멸종동물 매머드가 설원 위를 걸어가는 동영상이 뚝딱하고 만들어지는 장면은 여러 의미로 충격이었다. 뉴욕타임스(NYT)는 소라의 작품을 “매우 사실적(photorealistic)”이라 평하며 “이제 경고문이 붙지 않으면 진위를 구분하기 어려운 시대”라 걱정했다.

1년도 채 안 돼 AI 영상 기술은 더 큰 진전을 이뤄냈다. 이달 4일 인스타그램과 페이스북을 소유한 빅테크 메타는 또 다른 AI 프로그램 ‘무비 젠(Movie Gen)’을 선보였다. 이전 AI는 영상만 창조했지만, 무비 젠은 AI로 소리도 만들어낸다. 메타 시연 동영상을 보면 뱀이 밀림을 기어가자 풀 스치는 소리가 스르륵 들려온다. NYT가 비슷한 영상을 만들어 보니 사운드까지 입히는 데 10분도 걸리지 않았다고 한다. 메타 측은 “무비 젠 영상에 꼭 ‘AI 생성(Generated by AI)’ 문구를 넣겠다”고 했으나, NYT 취재 결과 이를 제거하는 것도 가능했다.

논란이 된 베이루트 영상을 다시 보자. 영국 일간 가디언이 AI 전문가들에게 의뢰해 분석한 결과, 해당 영상은 건물 사이로 불이 이어져 있는 등 결함이 상당했다. CAIR 대변인은 ‘확인 절차만 거쳤어도 가짜로 들통날 영상을 왜 게재했나’라는 CBS 질의에 “명백하고 단순한 실수”라면서도 “이스라엘이 레바논에서 2200여 명을 숨지게 만든 범죄를 저질렀단 ‘본질’은 바뀌지 않는다”고 답했다. 그 사이 소셜미디어에선 여전히 진짜인 줄 믿는 이들이 영상을 퍼나르고 있다. 세상은 실재와 가상의 경계선만 흐릿해지고 있는 게 아니다. 뭐가 본질인진 모르겠으나, 신뢰와 윤리의 영역도 함께 무너지고 있다.

정양환 국제부 차장 ray@donga.com