인공지능 AI가 아동·청소년 음란물 활용.."협박 용도로 쓰이기도"

인공지능 AI가 아동 성 착취물을 제작하는데 사용되거나 청소년을 협박하는데 쓰이는 사례가 급증하고 있다고 폭스뉴스가 보도했습니다.

폭스뉴스는 유해 디지털 콘텐츠 대응 회사인 야론 리트원 캐노피사 디지털 안전 전문가에 따르면 소아성애자들이 아동 성 착취 이미지를 제작, 배포하고 아동을 협박하기 위한 AI를 사용하고 있다고 지적했습니다.

옷을 입고 있는 아동 사진을 편집해 나체 이미지로 변경하는 등 재가공되고 이 사진이 아동이나 청소년을 협박하는 용도로도 사용된다는 것입니다.

리트원 측은 "AI로 기존에 존재하는 이미지를 편집하는 과정이 쉽게 빨라져 피해 아동과 가족에게 끔직한 경험을 준다"며 "편리한 사용방식이 조작된 아동 성 착취 이미지를 만드는데 사용된다"고 밝혔습니다.

현재 시스템은 생성된 이미지가 아닌 실존 이미지만을 감시하도록 설계되어있는데, 생성형 AI라는 새로운 변수로 인해 법 집행기관들이 생성된 이미지인지, 아니면 실제 이미지인지 파악하는 데 더 많은 시간을 소비하게 될 수 있다는 지적도 나옵니다.

2002년 미 대법원은 가상 아동 성 착취물을 금지하는 조항이 너무 광범위해 대중문화와 문학에서 청소년의 성을 묘사하는 것 또한 제한받을 수 있다 판단해 해당 조항을 폐기한 바 있습니다.