빗장 없는 AI 범죄 활용...아동 음란물까지 뻗쳐

페이스북, 인스타 등 SNS를 중심으로 아동 성 착취물 증가
아동 학대물 차단하는 시스템이 생성형 이미지 못 막아
사법기관의 AI 성 착취물 단속 시간 지체되고 어려움 커

[버지니아=AP/뉴시스] 미국에서 AI가 아동 성 착취물을 제작하고 아동을 협박하는데 사용된다고 지난 29일(현지 시각) 폭스뉴스는 보도했다. 사진은 2022년 발표된 AI 챗GPT. 2023.07.03.

[서울=뉴시스]이강우 인턴 기자 = 인공지능(AI)이 아동 성 착취물을 제작하는 데 사용되거나 청소년을 협박하는 데 쓰는 사례가 급증하고 있다는 주장이 제기됐다.

지난달 29일(현지 시각) 폭스뉴스에 따르면 야론 리트원 캐노피(Canopy)사 최고마케팅책임자(CMO)겸 디지털 안전 전문가는 소아성애자들이 아동 성 착취 이미지를 제작, 배포하고 또 아동을 협박하기 위해 AI를 사용하고 있다고 밝혔다. 캐노피는 유해한 디지털 콘텐츠 대응 회사다.

리트윈이 폭스뉴스에 공유한 한 방법은 옷을 입고 있는 아동의 사진을 편집해 나체 이미지로 바꾸는 것이다. 그가 폭스뉴스에 제공한 실제 사례에 따르면, 헬스에 관심이 많은 15살 소년이 헬스와 관련된 사이트에 조언을 구하고자 자신의 상체가 노출된 사진을 공유한 사항이다. 소년이 올린 사진은 나체 사진으로 재가공 돼 소년을 협박하는데 사용되었다.

2022년 주요 사회관계망서비스(SNS)에서는 아동 성 착취 의심 자료가 9% 증가했다고 보고했다. 이 중 85%는 페이스북(Facebook), 인스타그램(Instagram), 왓츠앱(WhatsApp)과 같은 메타(Meta) 계열 소셜미디어(SNS)에서 발생했다.

리트원은 “AI로 기존에 존재하는 이미지를 편집하는 과정이 쉽고 빨라져 피해 아동과 가족에게 끔찍한 경험을 준다”며 “이처럼 사용이 편한 방식은 실제 사진에 의존하지 않고도 조작된 아동 성 착취 이미지를 만드는데 적용된다”고 밝혔다.

이어 그는 “사진의 아이들은 진짜가 아니다”며 “AI로 생성되는 아이들의 이미지를 알고리즘이 더 많이 접해 스스로 개선하는 방식으로 자가 복제한다”고 전했다.

최근 분석에 따르면 AI로 생성된 아이들의 성 착취 이미지는 아동 성적학대 자료(CSAM: Child Sexual Abuse Material)를 차단하는 중앙추적시스템을 잠재적으로 방해할 수 있다고 밝혀졌다.

현재 시스템은 생성된 이미지가 아닌 실존 이미지만을 감시하도록 설계되어있다. 생성형 AI 라는 새로운 변수로 인해 법 집행기관들이 생성된 이미지인지, 아니면 실제 이미지인지 파악하는 데 더 많은 시간을 소비하게 될 수 있다는 지적이 나왔다.

리트원은 생성된 아동 성 착취 이미지가 주·연방 아동 보호 및 음란물 위반법 에 어떻게 처리될지 의문 또한 가지고 있다. 사법기관은 AI로 만들어진 아동성착취물 이라도 불법이라 판단하지만 이에 관한 판례가 없기 때문이다.

2002년 미 대법원은 가상 아동 성 착취물을 금지하는 조항이 너무 광범위해 대중문화와 문학에서 청소년의 성을 묘사하는 것 또한 제한받을 수 있다 판단해 해당 조항을 폐기했다.

☞공감언론 뉴시스 rainfall@newsis.com