"딥페이크 포르노는 혁신 아닌 학대"...美, 16개 웹사이트 제소

샌프란시스코 시, 사이트 폐쇄 조치와 손해배상 청구

(지디넷코리아=백봉삼 기자)"딥페이크 포르노는 혁신 아닌 성적 학대다. 이 문제는 최대한 빨리 해결해야 한다."

생성AI 기술을 이용한 성적 이미지인 ‘딥페이크 포르노’에 대한 사회적 문제가 커지고 있다. 이에 샌프란시스코 시 변호국은 딥페이크 포르노를 생성할 수 있는 인기 웹사이트 16곳에 대해 폐쇄 조치와 손해배상을 요구하는 소송을 제기했다.

지난 15일(현지시간) 시티 어터니 오브 샌프란시스코(CITY ATTORNEY OF SAN FRANCISCO)와 블룸버그, 기가진 등에 따르면 샌프란시스코 시 법률 대리인 데이비드 치우 변호사는 합의하지 않은 AI로 포르노를 제작하고 배포하는 세계 최대 규모 웹사이트들을 상대로 처음 소송을 제기했다고 발표했다. 이 소송은 샌프란시스코 고등 법원에 제기됐다.

사이버 범죄(제공=이미지투데이)

샌프란시스코 시 변호국은 올 상반기에만 총 2억회나 접속한 16곳의 웹사이트에서 이용자가 여성을 누드화할 수 있도록 하는 오픈소스 AI 이미지 생성 모델이 악용됐다고 지적했다. 또 AI가 생성한 딥페이크 포르노 피해자는 심각한 심리적, 경제적 피해를 입고, 인터넷상에 이미지가 확산됨으로써 명예적 피해를 받을 수있다고 우려했다.

이번에 소송을 당한 웹사이트 중 한 곳은 “그녀를 데이트에 데려가는 데 시간을 낭비한다고 상상해 보세요. 그냥 웹사이트에서 알몸(누드)을 구하세요”라고 광고한 것으로 알려졌다.

이 사이트들은 이미지를 생성하기 위해 사용자한테 구독료를 받았는데, 일부 사이트에서는 무료 체험 버전을 제공한 것으로 확인됐다. 그 결과 연간 수백만 개의 딥페이크 포르노가 생성됐고, 대부분은 여성을 대상으로 한 것으로 나타났다.

데이비드 치우 변호사는 “딥페이크 포르노는 혁신이 아니라 성적 학대라는 것을 분명히 해야 한다”면서 “이 문제는 우리가 가능한 빨리 해결할 필요가 있는 중요한 문제”라고 강조했다.

샌프란시스코 시 변호국은 이들 사이트 운영자 약 50명에게 “피해자 동의 없이 딥페이크 포르노를 생성함으로써 주법 및 연방법을 위반하고 있다”면서 웹사이트 폐쇄와 손해배상 지불을 청구했다.

카룬 틸락 부 변호사는 “현시점에서는 이들 웹사이트가 어떤 이미지 생성AI를 사용하고 있는지 명확히 판단할 수 없다”면서도 “그러나 영국의 AI 스타트업인 스터빌러티AI(Stability AI)의 오픈소스 이미지 생성AI인 스테이블 디퓨전의 초기 버전은 이런 딥페이크 포르노 악용에 취약하다”고 설명했다.

치우 변호사는 “우리는 모두 AI를 악용해 어린이를 포함한 실존 인물을 착취하고 학대하는 악질적인 인물을 단속하기 위해 각자의 역할을 다해야 할 의무가 있다”고 밝혔다.

소송의 대상이 된 웹사이트 운영자들은 이번 소송에 대해 별다른 언급이 없었던 것으로 전해졌다.

백봉삼 기자(paikshow@zdnet.co.kr)