서울에 용암이 분출되고 있다?…“속지 마세요” 혼란의 AI 뉴스

AI 생성 경고 영상. 딸깍 디자이너 제공=연합뉴스

인공지능(AI)으로 만든 영상이 현실과 거의 구분되지 않을 정도의 수준에 도달하면서, 소셜미디어(SNS)를 중심으로 혼란과 우려가 번지고 있다.

연합뉴스에 따르면 최근 온라인에서 화제를 모은 한 영상은 “서울 시내에 용암이 분출되고 있다”는 뉴스 속보를 전하는 아나운서로 시작된다.

이어 연결된 현장 기자는 시뻘건 용암 앞에 서서 “저는 AI입니다. 속지 마세요”라고 말한다. 이후 학생, 연예인, 사업가로 보이는 등장인물들이 연이어 자신이 AI라고 고백하며 경각심을 높인다.

이 영상은 구글의 AI 영상 생성 모델 ‘Veo(비오3)’를 활용해 제작된 것으로, 실제 아나운서 뉴스처럼 구현된 영상미와 자연스러운 음성 합성으로 큰 반향을 일으켰다.

제작자인 유튜버 ‘딸깍 디자이너’는 “일론 머스크 얼굴을 도용한 로맨스 스캠 사례에서 아이디어를 얻었다”며 “AI 기술이 조악해도 사람들은 속을 수 있다는 사실에 놀라 영상을 만들게 됐다”고 밝혔다.

전문가들은 AI 생성 기술의 대중화 속도를 우려하며 미디어 리터러시 교육의 필요성을 강조하고 있다. 콘텐츠가 다루는 사실관계의 출처를 끊임없이 확인하고, 모든 콘텐츠를 의심하도록 하는 미디어 교육이 절실하다는 것이다.

이에 AI 활용 여부를 표시하는 움직임도 시작됐다. 네이버는 지난달부터 블로그, 카페, TV 등에서 ‘AI 활용’ 태그 기능을 도입했고, 내년 시행 예정인 AI 기본법에도 관련 표시를 의무화하는 조항이 포함돼 있다.

김유민 기자