AI 생성 영상에 눈 뜨고 코 베이지 않으려면 [뉴스룸에서]

AI로 만든 가짜 영상 넘쳐
사회적 불신과 혼란 키우기도
AI워터마크 의무화 시행해야

경복궁이 물에 잠겼어요 영상의 한 장면. 유튜브 캡처

‘서울 가면 눈 뜨고 코 베인다’는 말이 있다. 지방에서 상경한 순진한 사람들이 사기꾼에게 속아 낭패를 보는 일이 흔하던 1960~70년대 이야기다. 당하기 싫으면 정신 똑바로 차리라는 경고의 의미도 숨어 있다. 요즘 유튜브를 비롯한 SNS 바닥이 딱 그렇다. 정신 똑바로 차리지 않으면 생성형 AI로 만든 가짜 영상에 두 눈 뜨고도 속아 넘어가는 일이 허다하다.

전국에 극한 호우가 쏟아지던 열흘 전쯤, ‘경복궁이 물에 잠겼다’는 영상이 유튜브에서 입소문을 탔다. 영상을 보면, 우비를 입은 남성이 “와, 비가 엄청 왔습니다. 경복궁이 완전히 물에 잠겼어요”라고 말하고 뒤편에선 사람들이 물을 퍼내고 있다. 침수된 경내에서 물개가 헤엄치는 장면을 보기 전까지는 가짜인지 의심하기 어려울 만큼 현실적이다. 오히려 침수된 광주 시내에서 헤엄치는 황당한 장면이 더 가짜처럼 느껴질 정도니.

경복궁 영상은 5월 출시된 구글의 생성형 AI로 제작됐다. 고품질의 영상과 음성을 동시에 생성할 수 있는 툴인데, 출시 두 달 만에 4,000만 건 이상 제작된 것으로 알려졌다. 사실, SNS에 떠도는 AI 영상은 대부분 조악하고 황당무계해서 가짜라는 걸 알아차리기 쉽지만, 이처럼 고도화된 AI와 현실감 있는 상황 묘사가 접목되면 진위를 확인하기 매우 어렵다. 실제 이런 영상들의 댓글 창엔 진짜인지 가짜인지를 묻는 질문이 주를 이룬다.

AI로 생성한 영상은 심심풀이를 넘어 다양한 분야로 확산하며 영향력을 확대하고 수익을 만들어내고 있다. 지난해 미국에서 유명 래퍼 퍼프 대디의 스캔들을 악용한 가짜 영상 900여 편이 무려 7,000만 뷰를 기록하며 막대한 광고 수익을 올렸다는 보도도 있다. 유튜브 분석 사이트 ‘튜브필터’에 따르면 5월 26일부터 일주일간 구독자가 가장 많이 증가한 채널 50개 중 8개가 생성형 AI로 만든 쇼츠를 올렸다.

인스타그램에서 유통 중인 AI로 생성한 영상들. 인스타그램 캡처

이스라엘-이란 전쟁 관련 이스라엘의 F-35 스텔스 전투기가 테헤란 상공에서 격추되는 장면처럼 조작한 AI 영상(왼쪽), 참새 떼가 러브버그를 잡아먹는 AI 영상. 인스타그램 유튜브 캡처

AI로 조작된 영상은 민감한 이슈, 비중 있는 뉴스와 결합될 경우 사회적 혼란을 가중시킬 수 있다. 지난달 이스라엘-이란 전쟁 당시 F-35 스텔스 전투기가 이란 방공망에 격추되는 가짜 영상이 2,000만 뷰 이상 소비된 것을 비롯해 다양한 가짜 콘텐츠가 SNS를 떠돌았다. 이스라엘과 이란 당국은 조작된 영상을 오히려 공식 채널로 유포하며 심리전에 활용했다. 국내에서는 최근 골칫덩어리로 지목된 러브버그를 참새가 잡아먹는 가짜 영상을 방송 매체가 인용하면서 “러브버그의 천적이 나타났다”고 오보를 내기도 했다. 러브버그의 천적은 아직 없는 것으로 알려졌지만 AI 영상에 언론이 휘둘린 셈이다.

AI 생성 기술의 눈부신 발전 속도에 비하면 AI 콘텐츠를 식별해내는 기술은 더디기만 하다. 결국 생산자가 AI 콘텐츠임을 표시하는 것 외에 ‘눈 뜨고 코 베이지’ 않을 방법은 없어 보인다. 다행히 AI 영상에 워터마크 표기를 의무화한 AI기본법이 내년 1월 시행을 앞두고 있지만, AI 규제보다 진흥에 무게 중심을 둔 정부는 과태료 부과 등 규제 시행만은 유예하려는 분위기다.

AI 산업 육성도 중요하지만 AI 영상의 무분별한 유통이 가져올 사회적 불신과 갈등, 그로 인한 비용이 결코 가볍지 않은 만큼, AI 워터마크 의무화는 예정대로 시행해야 한다. 두 눈 똑바로 뜨고도 속고 마는 게 요즘 AI 영상 아닌가.

박서강 기획영상부장 pindropper@hankookilbo.com