AI 악용 업체 무더기 겨냥…'딥페이크 범죄' 미국에서는

[앵커]

딥페이크 범죄가 이렇게 늘어난 배경에는 사진 한 장만 갖고도 얼마든지 불법 합성물을 만들 수 있는 업체들이 있습니다. 올해 상반기에만 2억 명이 이들 업체를 찾았는데 미국에서는 시 검찰이 업체들을 무더기 고소했습니다.

심수미 기자입니다.

[기자]

"옷을 벗길 사람이 있습니까?" "데이트로 시간을 낭비하지 마십시오."

이런 홍보 문구를 내세워 딥페이크 음란물 제작을 부추겨 온 AI 업체들이 수사를 받게 됐습니다.

미국 샌프란시스코 검찰청은 현지시간 지난 15일 범죄에 악용되는 대표적 업체 16곳에 민형사상 소송을 제기했다고 밝혔습니다.

[카룬 틸락/샌프란시스코 검사 : 옷을 입은 여성이나 소녀의 사진을 업로드하기만 하면 몇 초 만에 매우 사실적인 나체 포르노 이미지로 바꿔주는 업체들입니다.]

올해 상반기 6개월 동안만 16곳 업체의 방문자 수는 2억 명에 달합니다.

시 검찰청은 "기술 혁신이 아니라 성적 학대라는 것 분명히 한다"면서 딥페이크·아동 성 착취물 등을 금지하는 주법과 연방법을 위반했다고 설명했습니다.

시 검찰청이 업체를 겨냥한 건, 단순히 개인의 문제로 맡겨두기에는 가해자 처벌에 한계가 있다고 판단했기 때문입니다.

피해자가 직접 어떤 사이트에서 불법 이미지가 생성돼 유통됐는지 경로를 하나하나 찾기란 거의 불가능하다는 겁니다.

물론 해당 업체들의 본사는 미국 외에도 영국, 에스토니아 등에 흩어져 있어 현실적으로 대표를 법정에 세우는 게 어려울 수 있습니다.

하지만 궐석으로 재판이 이뤄지더라도 혐의가 입증되면, 사이트 폐쇄 조치와 벌금 등을 끌어낼 수 있습니다.

[화면제공 유튜브 'KPIX' 'Ministry of Justice']
[영상디자인 곽세미]