'美항모 격침' 가짜 전쟁영상 판치자…X "돈줄 끊겠다" 수익 차단정책 시행

AI 제작 사실 숨기면 90일 수익 박탈
반복 위반하면 영구 퇴출…전쟁 콘텐츠 한정

엑스(X·옛 트위터)가 전쟁을 다룬 인공지능(AI) 생성 영상에 출처를 표기하지 않으면 광고 수익을 중단하는 정책을 시행하기로 했다. 미국·이스라엘과 이란 간 무력 충돌이 이어지는 가운데 가짜 영상과 허위 정보의 확산을 차단하기 위한 조치다.

엑스의 제품 책임자 니키타 비어는 3일(현지시간) 자신의 계정을 통해 "전쟁·무력 충돌을 다루는 AI 생성 동영상을 게시할 때 AI 제작 사실을 표시하지 않으면 광고 수익 공유 프로그램에서 90일간 퇴출된다"고 밝혔다. 이어 재차 적발될 경우 수익 프로그램에서 영구 제명될 것이라고 경고했다.

비어는 "전쟁 상황에서는 사람들이 진실한 정보에 접근할 수 있어야 한다"며 "오늘날의 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 만들기가 너무 쉽다"고 정책 배경을 설명했다.

실제 최근 온라인상에서는 비디오게임 장면을 이란의 미사일 공격 영상으로 둔갑시키거나, 미 항공모함이 격침되는 모습을 AI로 조작한 영상이 주요 플랫폼에서 수백만 조회수를 기록하고 있다. 또 이란의 드론 공격으로 카타르에 있는 미군 레이더 시설이 파괴됐다는 위성사진이 퍼졌지만, 실제로는 바레인 지역 위성사진을 AI로 변형한 것으로 확인되기도 했다. 이처럼 조작 영상과 허위 정보가 확산하면서 플랫폼 운영사들이 수익화 통제에 나선 배경이 됐다.

이에 따라 엑스 이용자는 관련 콘텐츠를 업로드할 때 메뉴에서 'AI로 제작됨' 표기를 반드시 추가해야 한다. 다만 이 같은 정책은 전쟁 관련 영상에만 적용되며, 일반적인 정치·경제 분야의 허위 정보에는 확대 적용되지 않는다.

엑스는 AI 도구의 메타데이터와 집단지성 기반 사실확인 체계인 '커뮤니티 노트'를 통해 위반 게시물을 적발할 방침이다.

앞서 일론 머스크는 엑스를 인수한 이후 허위 정보를 검증하거나 제재하는 기능을 축소·완화해 왔다. 그러나 전쟁 관련 허위 콘텐츠에 대해서는 별도의 제재 기준을 도입했다.

김현정 기자 kimhj2023@asiae.co.kr