SNS 점령한 'AI 과일 막장극'…폭력·테러 조장 우려 확산

틱톡 등 SNS에서 유행하는 'AI 과일 드라마'가 미성년자를 폭력적 콘텐츠에 쉽게 노출하고, 테러 관련 내용까지 접하게 만든다는 전문가들의 경고가 나왔습니다.

현지 시간 11일 영국 24시간 뉴스 채널인 스카이뉴스에 따르면, 테러방지 세계인터넷포럼 산하 학술 연구 기관인 글로벌네트워크는 틱톡 내 'AI 과일 영상' 중 폭력적이고 극단적인 콘텐츠를 분석한 보고서를 발표했습니다.

연구진은 "틱톡에서 폭력을 조장하는 AI 과일 드라마를 쉽게 접할 수 있다"며 "이를 접하는 젊은 사람들이 폭력에 무감각해질 수 있다"고 지적했습니다.

해당 콘텐츠는 생성형 AI로 제작한 자극적인 서사의 영상으로, 의인화된 음식들이 로맨스와 배신 등의 줄거리를 이어가는 형태입니다.

과일과 채소를 활용한 특성상 플랫폼의 검열 정책을 우회하기 용이합니다.

이러한 영상은 주 이용자인 젊은 층을 중심으로 빠르게 확산 중입니다.

그러나 일부 영상에 신체 훼손, 고문, 잔혹한 폭력 장면이 포함되어 논란이 일었습니다.

특정 범죄나 극단주의 단체를 연상시키는 연출도 등장했습니다.

연구진에 따르면, 일부 영상에는 실제 테러 단체 지지자들이 선전에 활용하는 해시태그가 포함되어 있었습니다.

AI 과일 드라마 일부가 폭력과 혐오를 조장하고, 실제 폭력·테러 사건을 연상시키는 매개체로 악용되는 셈입니다.

연구진은 "생성형 AI를 이용해 만든 폭력적인 영상에 미성년자들이 쉽게 접근할 수 있어, 의도치 않게 자극적이거나 불쾌한 콘텐츠를 접할 위험이 있다"고 주장했습니다.

이어 "해당 콘텐츠는 극단적이고 폭력적인 내용과 이미지를 정상화하는 데 도움이 되며, 이용자들이 테러 관련 자료를 접할 위험도 있다"고 우려했습니다.

연구진은 "모방된 폭력적 콘텐츠를 효율적으로 식별해야 한다"며 "틱톡 등 플랫폼에서 이러한 AI 생성 콘텐츠의 확산을 제한하는 대응책을 개발해야 한다"고 촉구했습니다.

#AI드라마 #과일드라마 #폭력 #테러 #콘텐츠 #틱톡

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이나경(nakyi@yna.co.kr)

국제