인스타 과도한 노출사진, AI가 잡아낸다

미성년자 DM 속 노출 사진 감지해 블러 처리
미국 41개 주정부 등의 소송 압박 중 조치

미성년자의 정신건강에 악영향을 주고 있다며 미국에서 소송 압박을 받는 인스타그램이 인공지능(AI)을 통한 청소년 보호 강화 조처를 내놨다.

11일(현지시간) 인스타그램 모기업인 메타플랫폼(메타)은 인스타그램에서 과도한 노출 사진, 성 착취 범죄 등으로부터 청소년을 보호하고 잠재적 범죄자와 청소년의 상호작용을 어렵게 만드는 새로운 기능을 개발하고 있다고 전했다. 메타는 인스타그램 다이렉트 메시지(DM) 시스템에서 미성년자에게 전송되는 노출 사진 등을 자동으로 감지해 흐리게 처리하는 AI 기반의 툴을 시험하고 있다고 밝혔다.

인공지능(AI)로 노출 사진이 자동으로 차단된 모습. [이미지출처=메타]

18세 미만의 사용자에게는 기본으로 나체 사진이 포함된 이미지를 받으면 경고 화면에서 자동으로 흐리게 처리된다. 수신자는 이미지를 완전히 접하지 않은 상태에서 이를 볼지, 보지 않을지 선택할 수 있다. 성인에게는 알림을 보내 이 기능을 적용하도록 권장한다. 또 메타는 이러한 이미지를 보낸 사람을 차단하고 채팅을 신고할 수 있는 옵션을 제공한다. 이런 식으로 접근하는 사람에겐 응하지 않아도 된다는 안내 메시지도 함께 표시한다. 메타는 이와 함께 잠재적으로 성 착취 사기에 연루될 수 있는 계정을 식별하는 데 도움이 되는 기술도 개발하고 있다고 설명했다.

앞서 메타는 지난 1월 미성년자가 유해 콘텐츠에 노출되지 않도록 해당 콘텐츠를 자동으로 차단하는 방안을 마련할 예정이라고 발표했다. 이 같은 조치는 지난해 10월 미국 내 41개 주 정부가 인스타그램 등이 과도한 중독성을 갖도록 설계돼 미성년자의 정신건강에 피해를 주고 있다며 메타를 상대로 소송을 제기하는 등 당국의 압박이 가중되는 상황에서 나왔다.

구나리 인턴기자 forsythia26@asiae.co.kr