소아성애자 놀잇감 된 AI…“실제 같은 아동 성학대 영상 만들어”

본 기사와 관련없는 자료사진. 123RF

소아성애자들이 인공지능(AI) 기술을 이용해 실제처럼 보이는 아동 성학대 콘텐츠를 제작하고 판매한다는 외신 보도가 나왔다.

최근 영국 BBC방송에 따르면 패트리온(Patreon)이나 픽시브(Pixiv)과 같은 온라인 콘텐츠 공유 플랫폼에 아동 얼굴이 합성된 성적 콘텐츠가 다수 유포되고 거래됐다.

아동 성학대 콘텐츠들은 AI 소프트웨어를 통해 제작됐다. 이들이 사용한 소프트웨어는 사용자가 주요 키워드를 입력하면 프로그램이 그에 맞는 이미지를 생성해주는데, 그림이나 이미지 편집에 대한 전문적인 지식 없이도 원하는 이미지를 만들 수 있다.

BBC는 이러한 AI 소프트웨어가 영유아 강간 등 아동을 성적으로 학대하는 실제 같은 이미지를 만드는 데 사용되고 있다고 지적했다.

일부 소아성애자들은 콘텐츠를 공유 웹사이트에 올린 후 아래 링크로 결제를 유도해 더 노골적인 콘텐츠를 판매하기도 했다.

영국 전국경찰청장협의회(NPCC) 측은 BBC와의 인터뷰에서 “이러한 합성 이미지에 실제 아동이 등장하지 않기 때문에 문제가 없다는 주장은 잘못됐다”고 강조했다. 아동 성적 학대를 묘사하는 합성 사진은 실제 사진과 동일한 법적 책임을 지게 된다. 영국에서는 이를 소유, 게시, 전송하는 모든 것이 불법이다.

그러면서 “(이러한 행동은) 실제 아동 학대로까지 발전할 수 있다”며 “플랫폼이 이를 방관하며 막대한 이익을 내고도 도덕적 책임을 지지 않는 건 말이 안 된다”고 지적했다.

합성 사진이 유통된 것으로 지목된 플랫폼 픽시브 측은 BBC에 “이 문제를 중요하게 받아들이고 있으며 해결하기 위해 노력 중”이라면서 “미성년자와 관련된 모든 성적 콘텐츠를 사실적으로 묘사하는 건 금지하고 있다”고 입장을 밝혔다.

또 다른 플랫폼인 패트리온 측은 “불법 아동 성학대 사진은 우리회사의 정책을 위반한 것”이라며 “문제가 생긴 계정은 즉시 삭제한다”고 해명했다. 그러면서 “AI가 합성한 자료를 차단할 것”이라며 “10대를 안전하게 보호하기 위한 전담 팀과 기술, 파트너십 등을 동원할 것”이라고 강조했다.

김민지 기자

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -