SNS가 `아동 성희롱` 창구?…메타, AI로 노출사진 막는다

아동 10만명 '인스타·페북' 성희롱 노출에
비공개 메시지서도 음란 사진 차단하기로

사진=아이클릭아트

메타. 로이터 연합뉴스

페이스북과 인스타그램을 운영하는 메타가 아동 성 착취를 방치했다는 이유 등으로 소송을 당한 가운데 미성년자들이 유해 콘텐츠에 노출되지 않도록 보호를 강화하기로 했다.

27일(현지시간) BBC 등 외신에 따르면, 메타는 지난 25일 블로그를 통해 연내 암호화된 채팅을 포함해 미성년자가 노출성 사진을 보내고 받지 못하도록 유도하는 보호 기능을 출시할 예정이라고 밝혔다.

이 조치는 지난해 12월 미국 뉴멕시코주가 메타를 상대로 소송을 제기한 가운데 나왔다. 메타가 자사 SNS에서 발생한 아동 성착취 문제를 시정하지 않고 있다는 주장이다. 같은 해 10월에는 미국 내 41개 주 정부가 메타를 상대로 페이스북과 인스타그램이 과도한 중독성을 유발해 10대들의 정신건강에 피해를 주고 있다며 무더기 소송을 당하기도 했다.

실제 페이스북과 인스타그램 등 SNS에서 아이들이 하루 10만건 이상의 성희롱 피해를 보고 있는 것으로 조사됐다. 영국 일간 가디언에 따르면, 미국 뉴멕시코주 법무부가 제기한 소송 과정에서 공개된 일부 문서를 보면 어린이 약 10만명이 성인의 성기 사진을 전송받는 방식을 포함해 온라인 성희롱 피해를 받은 것으로 전해졌다. 이 문서에는 메타 직원의 대화 내용 등이 담겼다.

메타는 미성년자가 인스타그램 메신저에서 19세 이상 성인의 다이렉트 메시지(DM)를 받을 수 없도록 차단할 계획이다. 미국에서는 16세, 영국과 유럽에서 18세 이하 미성년자들은 자신이 팔로우하거나 이미 연결된 타인으로부터만 DM을 받을 수 있고 그룹 채팅에 추가될 수 있다

미성년자들이 계정을 비공개에서 공개로 변경하거나 팔로우하지 않는 이용자에게도 DM을 받을 수 있도록 설정을 변경하려고 하면 부모의 승인을 요구하기로 했다.

이미 연결된 이용자라고 해도 미성년자들이 원치 않거나 잠재적으로 부적절한 이미지는 보지 못하게 하는 기능도 추가할 계획이다. 이 기능은 여성과 청소년이 노출성 사진을 받거나 보내는 것을 보호하기 위해 설계돼 성인 가입자도 선택해 이용할 수 있다. 이 시스템은 암호화된 채팅에서도 작동하며, 자세한 내용은 연말 공개될 예정이다.

이는 메타가 메신저 채팅을 암호화하기 시작한 이후 정부, 경찰의 비판에 따른 조치이기도 하다. 미국 정부, 경찰, 주요 아동 자선 단체는 메타가 페이스북 메신저에 종단 간 암호화(End-to-End Encryption) 기술을 도입한 것을 두고 아동 학대 탐지가 더 어려워질 수 있다고 비판한 바 있다. 종단 간 암호화는 발신자가 메시지를 처음 입력하는 단계부터 수신자가 최종적으로 메시지를 읽는 모든 단계에서 정보를 평문으로 저장하지 않고 모두 암호화하는 방식이다. 일각에서는 플랫폼이 암호화된 앱을 통해 전송되는 아동 학대 등을 탐지해야 한다고 목소리를 내기도 했다.

아동 자선 단체 NSPCC는 메타의 새 시스템이 "엔드투엔드 암호화 환경에서 사용자의 안전과 개인정보 보호 권리를 균형 잡는 타협이 가능하다는 것을 보여준다"고 말했다.

BBC에 따르면, 이 기능은 기계 학습을 이용해 노출성 사진을 식별하고 이용자 기기에서만 작동한다. 메타는 수십억명의 이용자를 대상으로 아동 학대 이미지 자동 탐지 기능을 적용하면 오류의 위험이 크고 무고한 이용자가 잘못 신고될 가능성이 높다고 주장하고 있다. 이에 메타는 성인이 팔로우하지 않는 청소년에게 메시지를 보내는 것을 제한하고 미성년자와의 접촉을 차단하는 등 개인정보를 침해하지 않는 식으로 청소년을 보호하는 시스템을 활용한다는 방침이다. 김나인기자 silkni@dt.co.kr