"서울 시내에서 용암 분출?"···AI 가짜뉴스, 어디까지 왔나 봤더니

사진제공=유튜버 딸깍 디자이너. 연합뉴스

[서울경제]

인공지능(AI) 기술로 제작된 영상이 현실과 구분하기 어려운 수준까지 발전하면서 소셜미디어를 중심으로 딥페이크 오남용에 대한 우려가 급속히 확산되고 있다.

8일 연합뉴스에 따르면 최근 SNS 플랫폼 스레드에 올라온 한 영상은 AI 생성 콘텐츠의 위험성을 경고하는 내용을 담고 있어 화제를 모았다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 가상의 속보를 전하며 현장 기자와 연결하는 장면으로 시작된다. 뒤편에 시뻘간 용암이 솟아오르는 상황에서도 태연하게 서 있던 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 정체를 밝히며 시청자들에게 '속지 말라'고 경고한다. 이어 등장하는 학생, 연예인, 사업가 등 모든 인물이 자신이 AI임을 강조하는 내용으로 구성됐다.

영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크 얼굴로 로맨스스캠을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 점이 놀라웠다"고 제작 배경을 설명했다. 그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상 접근성은 높아지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 우려를 표했다.

네티즌들 사이에서는 현실에 버금가는 영상 품질에 놀라움을 표하면서도 끊임없이 진화하는 AI 기술의 악용 가능성에 대한 우려의 목소리가 높아지고 있다. 특히 AI 활용에 익숙하지 않은 고령층이 AI 생성 여부를 판단할 수 있도록 하는 디지털 리터러시 교육의 필요성이 제기되고 있다.

한편 AI 영상 광고 제작소 '아웃오프라인'이 비오3를 활용해 제작한 '한국 남성의 삶' 영상도 주목받고 있다. 유년기부터 노년까지의 인생 과정을 AI 기술로 자연스럽게 표현한 이 영상에 대해 네티즌들은 "비오3로 만든 영상 중 가장 자연스럽다"는 호평과 함께 "숏폼 시장을 이런 제작자들이 선점하게 될 것"이라는 전망을 내놓고 있다.

현혜선 기자 sunshine@sedaily.com