아동성범죄자 잡기 위해 14세 소녀의 AI 생성이미지 사용한 美경찰

뉴멕시코 경찰이 아동성범죄자를 잡기 위해 생성한 14세 소녀의 AI 생성 이미지. <사진=뉴멕시코주>

미국 뉴멕시코 주가 10대들이 많이 사용하는 메신저 서비스인 스냅챗에 소송을 제기한 가운데, 경찰들이 AI로 만든 가짜 사람 이미지를 아동 성범죄자 체포에 사용하고 있다는 보도가 나왔다.

아스테크니카에 따르면 뉴멕시코 검찰은 최근 스냅챗을 서비스하는 스냅에 대한 소송을 제기했다. 이 소송에는 뉴멕시코 경찰들이 아동성범죄자를 잡기 위해 AI로 14세 소녀의 이미지를 사용하고 있다는 내용이 담겼다.

과거에는 아동성범죄자를 잡기 위해서 어려 보이는 성인의 사진이나, 경찰관의 어렸을 적 사진을 이용했지만 AI의 등장으로 이를 사용하게 된 것이다.

뉴멕시코주 검찰에 따르면 경찰이 AI로 생성한 ‘헤더’라는 가짜 14세 소녀의 이미지 파일을 스냅챗 프로필로 만들자, 프로필이 비공개로 설정이고, 팔로우하는 사람을 추가하지 않았음에도 불구하고 위험한 계정의 추천을 받았다.

또한, 그런 계정 중 하나를 팔로우하자 91명의 부적절한 계정과 성인 사용자의 추천을 받았다. 이 중 한 명의 성인과 채팅을 시작하자 이내 각자의 사진을 서로 교환하자는 제안받았다. 또한, 돈을 줄 테니 음란한 사진을 찍어서 보내달라는 유혹도 받았다.

뉴멕시코주는 스냅챗이 이런 알고리즘을 통해 사실상 아동성범죄를 방조하고 있다고 주장하고 있다.

고소장에 따르면 뉴멕시코 앨버커키 경찰이 잠입수사를 시작한 것은 2022년 스냅챗에서 이뤄진 강간 사건 때문이다. 알레한드로 마르케스라는 남자가 스냅챗을 통해 11세 소녀를 만나 강간한 혐의로 18년형을 선고받았다. 최근에는 제레미 거스리라는 남자도 12세 소녀를 강간한 혐의로 징역형을 선고받았다.

뉴멕시코 법무부의 조사에 따르면 스냅챗은 다크웹 시장에서 불법 사진과 영상의 최대 공급처다. 스냅에서 만들어진 것으로 추정되는 아동 성착취 관련 자료만 1만건 이상이다.

성범죄 전문 변호사인 캐리 골드버스는 ‘성인과 아동을 무작위로 연결해 아동 학대를 조장했다는 이유로 오메글이 지난해 폐쇄됐기 때문에 스냅챗도 뉴멕시코와 소송에서 이기기 어려울 수 있다“고 설명했다.

[실리콘밸리=이덕주 특파원]