잇단 청소년 성착취물 유포‥신고 안해도 AI로 판별한다

[뉴스투데이]

◀ 앵커 ▶

증가하는 디지털 성착취물 피해, 특히 아동과 청소년은 신고를 꺼리는 경우가 많은데요.

다가오는 7월부터는 ai가 알아서 미성년자 여부를 판단해 불법 영상물을 걸러내는 기술이 도입됩니다.

제은효 기자입니다.

◀ 리포트 ▶

한 중학생의 모바일 채팅방 대화 내역입니다.

34살 남성이라고 밝힌 상대방은 대화만 하면 1건에 70원을 준다더니, 5만원을 주겠다며 사진을 요구합니다.

이런 채팅 아르바이트를 하는 걸 부모님에게 알리겠다며 협박하자, 이 여학생은 거절하지 못하고 사진을 보냈고, 이 사진은 10여개 사이트에 퍼졌습니다.

[문기현/서울 디지털 성범죄 안심지원센터장] "부모님이 알지 못하게 숨기는 경우가 많고, 그러다 보니 시간은 길어지고, 그래서 유포는 빨리 이미 되고 있고…"

이같은 아동·청소년 대상 성착취물 유포가 늘어나고 있는 가운데, AI로 아동·청소년 불법 영상물을 판별하는 기술이 도입됩니다.

AI를 통해 우선 SNS 게시물 글에 청소년이 주로 사용하는 신조어를 찾아내고, 얼굴 인식으로 나이대를 분석합니다.

또 배경에 놓인 물건 등을 통해서도 아동, 청소년 관련 영상인지를 걸러냅니다.

AI 시스템으로 여기 있는 교복이나 책가방 등을 탐지할 수 있습니다. 이렇게 되면 대상의 얼굴이 나오지 않더라도 아동청소년 대상 성착취물임을 판별할 수 있는 겁니다.

아동이나 청소년 관련 불법 게시물은 당사자 신고 없이도 즉시 삭제할 수 있습니다.

[문기현/서울 디지털 성범죄 안심지원센터장] "아이들을 오픈 채팅방이나 이런 대화방으로 유도하는 것들이 요즘 많이 발견이 되고 있어요. 그래서 저희가 이런 것들을 아이들이 진짜 일대일 대화방까지 유입되지 않도록…"

서울시는 오는 7월부터 이같은 AI 기술을 도입할 예정으로, 불법 영상물 모니터링이 2배 이상 늘어날 것으로 예상하고 있습니다.

MBC뉴스 제은효입니다.

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

제은효 기자(jenyo@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2024/nwtoday/article/6600887_36523.html