테일러 스위프트의 불법 딥페이크…AI ‘방어막’ 뚫기 위한 ‘챌린지’로 시작

테일러 스위프트의 불법 딥페이크가 일부 온라인 커뮤니티 회원들의 '챌린지'에 의한 것이었다는 분석이 나왔다. 불법 딥페이크를 차단하기위해 마련된 AI의 방어벽을 뚫기 위해, 커뮤니티 회원들이 서로의 노하우까지 공유하면서 계속 시도했다는 것이다./조선일보DB

소셜미디어(SNS)를 통해 번진 세계적 팝스타 테일러 스위프트의 불법 딥페이크가 일종의 재미를 위한 ‘챌린지(challenge)’에 의한 것이었다는 분석이 나왔다. 딥페이크를 막기 위해 마련된 인공지능(AI)을 깨부수기 위해 일부 온라인 커뮤니티 회원들이 서로 노하우를 공유해가며 계속 시도했다는 것이다.

소셜미디어(SNS) 분석 기업 그래피카에 따르면 지난 몇 주 간 온라인 커뮤니티 ‘포챈(4chan)’ 회원들은 매일 마이크로소프트의 디자이너와 오픈AI의 달리 등 AI 이미지 생성 서비스의 필터를 우회할 수 있는 단어와 문구들을 찾았다. 이들의 목표는 기업들이 불법 딥페이크를 막기 위해 마련한 일종의 ‘방어벽’을 넘어 딥페이크로 유명 인사들의 음란물을 만드는 것이었다. 기업들이 AI를 통한 유해 콘텐츠 생산을 막기 위해 특정 키워드를 금지하는 등 안전조치를 취했지만, 커뮤니티 회원들끼리 AI를 우회하는 방법을 서로 공유하는 방식으로 안전장치를 뛰어 넘기 위해 계속 시도해왔던 것이다.

그래피카 관계자는 “유명인사는 물론 학교 어린이까지 누구나 이런 식으로 표적이 될 수 있다는 것을 보여주는 사례”라며 “이러한 딥페이크는 AI의 안전장치를 우회하는 ‘도전’에 의해 동기 부여된 사람들의 커뮤니티에서 비롯됐으며 이들에게 새로운 제한은 또 다른 장애물이 될 뿐이다”라고 했다.