“소아성애자들, AI 활용해 진짜 같은 아동학대 콘텐츠 생산”

소아성애자들이 인공지능(AI) 기술을 사용하여 실제와 같은 아동 성학대 콘텐츠를 제작하고 판매하고 있다고 영국 BBC방송이 27일(현지시간) 보도했다.

아동 성학대 이미지 제작자들은 다양한 그림 자료를 생성하는 데 쓰이는 AI 소프트웨어를 사용해 이 같은 콘텐츠를 제작하고 있는 것으로 드러났다. 이들이 사용한 소프트웨어는 사용자가 단어를 입력하면 프로그램이 그에 맞춰 이미지를 생성하는 방식으로 작동하는데, 그림이나 이미지 편집에 대한 전문적인 지식 없이도 원하는 이미지를 만들 수 있다. BBC는 이런 AI 소프트웨어가 영유아 강간 등 아동을 성적으로 학대하는 실제 같은 이미지를 만드는 데 사용되고 있다고 지적했다.

사진=게티이미지뱅크

해당 문제를 조사해 온 저널리스트이자 프리랜서 연구원인 옥타비아 시프생크스는 제작자들이 “산업적인 규모로” 아동 학대 이미지를 만들고 있다며 “(이들은) 한 달에 최소 1000개의 이미지를 만드는 것을 목표로 한다”고 BBC에 전했다.

시프생크스에 따르면 아동 성학대 콘텐츠의 제작자들은 비교적 검열이 심하지 않은 일본 등 해외 사진 공유 웹사이트에 사진을 올리고, 더 노골적인 이미지로 연결되는 링크를 제공하는 식으로 콘텐츠를 판매하고 있다.

링크는 후원 플랫폼 ‘패트리온’등으로 연결되고, 구매자들은 패트리온에서 구독료를 지불해 이미지에 접근하고 있는 것으로 나타났다. 

패트리온은 이에 대해 “사용자들은 미성년자와 관련된 성적인 주제의 콘텐츠에 자금을 지원할 수 없다”며 “우리는 이미 AI가 생성한 합성 아동 착취물을 금지하고 있다”고 BBC에 전했다. BBC가 한 아동 성학대 콘텐츠 판매자 계정을 패트리온에 제보하자, 해당 계정은 곧 삭제됐다.

패트리온은 실제로 AI가 생성한 유해 콘텐츠의 증가로 인해 자사 플랫폼에서 “점점 더 많은 양을 식별하고 제거하고 있다”고 덧붙였다.

NPCC는 일부 플랫폼이 “막대한 이익을 얻으면서도 도덕적 책임을 지지 않는 것은 터무니없는 일이다”며 아동 학대 콘텐츠에 대한 필터링을 강화해야 한다고 주장했다. 

이안 크리클리 영국 전국경찰청장협의회(NPCC) 아동 보호 책임자는 BBC와의 인터뷰에서 “이러한 합성 이미지에 실제 아동이 등장하지 않기 때문에 문제가 없다는 주장은 잘못됐다”고 말했다. 영국에서 아동 성적 학대를 묘사하는 이미지는 AI로 만들었더라도 실제 이미지와 마찬가지로 소지, 게시, 전송 일체가 불법이다.

크리클리는 소아성애자들이 “생각에서 합성으로, 그리고 실제 아동 학대로까지 행동을 발전시킬 수 있다”고 경고했다.

윤솔 기자 sol.yun@segye.com