‘19금 AI합성물’ 막으려 검색 차단…“ ”만 붙여도 뚫려 ‘무용지물’

미국의 톱스타 테일러 스위프트
AI 활용한 음란 딥페이크에 당해
X, 게시물 지우고 검색 막았지만
키워드만 추가해도 뚫려 ‘난감’

최근 AI를 활용한 딥페이크로 곤혼을 치른 미국의 유명 가수 테일러 스위프트의 공연 모습. [사진 출처=AP연합뉴스]

최근 미국의 유명 가수 테일러 스위프트의 포르노그래피가 소셜네트워크(SNS)에서 빠르게 퍼지자 X(옛 트위터)가 관련 검색을 차단했다.

28일(현지 시각) 외신 등을 종합하면 현재 X에서 테일러 스위프트의 이름을 검색하면 ‘문제가 발생했습니다’라는 메시지가 나타난다. 이에 X의 사업 운영 책임자인 조 베나로크는 BBC에 보낸 성명에서 “안전을 우선시하기 위한 일시적 조치”라고 밝혔다.

지난 주 X를 비롯한 SNS에서 인공지능(AI) 기술 기반의 ‘딥페이크’를 이용한 스위프트의 조작된 이미지가 빠르게 유포됐다. 관련 이미지가 유포되고, X 사용자들이 해당 이미지를 놓고 토론하면서 오히려 관련 이미지가 빠르게 확산하기도 했다.

X 검색창에 테일러 스위프트 이름을 쓰면 결과가 나오지 않는다. [사진 출처=더버지]

하지만 X의 이러한 조치에는 허점이 있었다. 더버지에 따르면 검색어를 ‘테일러 AI 스위프트’로 재정렬하거나 스위프트의 전체 이름에 따옴표를 붙이면 검색이 되는 것으로 나타났다. 차단된 검색어 중 다른 하나에 다른 단어를 추가해도 검색 결과를 얻을 수 있었다.

X는 사진이 공개된 지 하루 만에 “식별된 모든 이미지를 적극적으로 삭제하고 이를 게시한 계정에 대해 조처를 하겠다”는 내용이 담긴 성명을 발표했다.