"스위프트 음란 딥페이크, 악성 커뮤니티서 챌린지로 시작"

세계적 팝스타 테일러 스위프트의 이미지를 합성한 '음란 딥페이크'는 유해성 온라인 커뮤니티 포챈(4chan)에서 회원들이 일종의 챌린지로 시작했다는 분석이 나왔습니다.

뉴욕타임스에 따르면 허위 정보 연구 회사인 그래피카는 포챈에서 스위프트의 딥페이크를 추적해 이 같은 잠정 결론을 내렸습니다.

포챈은 증오 표현, 음모론, AI를 이용해 만든 인종차별적이고 공격적인 콘텐츠를 공유하는 것으로 악명 높은 미국의 온라인 커뮤니티입니다.

그래피카는 이 커뮤니티 내에서 오픈AI 등 이미지 생성 AI가 설정해놓은 안전장치를 피해 새로운 방법을 찾아 공유하자는 지시가 있었고 창의력을 발휘하자는 말도 있었다고 전했습니다.

또 이후 스위프트가 등장하는 가짜 이미지가 만들어졌는데 몇몇 이용자는 게시판에서 칭찬을 들었고 이미지 생성에 사용된 명령 언어를 공유해달라는 요청도 있었다고 밝혔습니다.

그래피카는 이들이 일종의 게임을 통해 이미지를 만들었다고 지적했습니다.

스위프트 딥페이크는 지난 1월 6일 포챈에 처음 올라왔고 11일 후에는 텔레그램에 등장했으며 다음 날부터 엑스를 통해 퍼져나갔습니다.

YTN 류제웅 (jwryoo@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

국제