‘온라인 성착취’ 1분이면 적발…AI로 찾는다

[앵커]

무서운 속도로 퍼져나가는 '온라인 성착취물', 일일이 삭제하거나 대처하기가 쉽지 않아 피해자들은 끝없는 고통에 시달리는데요.

이젠 AI를 활용해 빠르게 추적하고 곧바로 삭제 요청까지 하는 시스템이 도입됐습니다.

홍성희 기자의 보돕니다.

[리포트]

대학 동문의 얼굴을 음란물에 합성해 유포한 이른바 '서울대 N번방' 사건.

가해자가 만든 딥페이크, 즉, 가짜 합성 영상은 2천 개 넘는 걸로 조사됐습니다.

이런 온라인 성착취물은 어디까지 퍼질지 모르기 때문에 그 피해가 더 심각합니다.

[김숙희/한국여성변호사회 부회장 : "삭제했다고 해도 어디서 또 나타나고 어디서 또 나타나고 하는 게 반복되고 있기 때문에 한 번 유포로 인한 피해는 영구히 상존한다고 봐야…."]

이 때문에 정부가 성착취물을 자동 탐지하고 신속하게 삭제 요청까지 하는 시스템을 도입했습니다.

신고가 접수된 피해 영상을 등록하면 AI가 약 2만 개의 사이트에서 같은 영상을 찾아냅니다.

한 건당 20~30분 걸렸던 처리 시간이 1분으로 줄었습니다.

아동·청소년을 대상으로 한 성착취물이나 유인 정보는 신고 없이도 선제적으로 차단합니다.

AI가 SNS에서 '조건 만남'이란 단어가 들어간 콘텐츠를 발견했다면, 내용과 신체 노출도 등을 따져 성착취물일 확률까지 분석합니다.

사람이 일일이 작업할 때보다 정보 수집 건수가 80배나 늘었습니다.

[박성혜/중앙디지털성범죄피해자지원센터 삭제기술팀장 : "선제적 삭제를 수동이었지만 다년간 해오면서 쌓아온 데이터들이 있습니다. 그 DB(데이터베이스)를 기반으로 해서 텍스트를 저희가 다 학습을 시켰고…."]

온라인 성범죄 피해자는 한 해 만여 명으로, 이 가운데 80%가량은 20대 이하 청년과 청소년입니다.

KBS 뉴스 홍성희입니다.

촬영기자:박준영/영상편집:양다운/그래픽:여현수

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

홍성희 기자 (bombom@kbs.co.kr )