"노출 사진 잡아낸다" 인스타그램 AI 활용

미성년자의 정신건강에 악영향을 주고 있다는 이유로 미국에서 소송 압박을 받는 사회관계망서비스(SNS) 인스타그램이 11일(현지시간) 청소년 보호 강화 장치를 내놨습니다.

인스타그램 모기업인 메타플랫폼(이하 메타)은 인스타그램에서 과도한 노출 사진, 성 착취 범죄 등으로부터 청소년들을 보호하고 잠재적 범죄자와 청소년의 상호작용을 어렵게 만드는 새로운 기능을 개발 중이라고 밝혔습니다.

메타는 인스타그램 다이렉트 메시지(DM) 시스템에서 미성년자에게 전송되는 누드 이미지를 자동으로 감지해 흐리게 처리할 수 있는 인공지능(AI) 기반의 툴을 시험 중이라고 설명했습니다.

나체 사진이 포함된 이미지를 받으면 경고 화면에서 자동으로 흐리게 처리됩니다. 수신자는 이미지를 접하지 않은 상태에서 이를 볼지 말지 선택할 수 있습니다.

이 기능은 18세 미만의 사용자에게는 기본으로 적용됩니다. 성인에게는 알림을 보내 이 기능을 적용하도록 권장됩니다.

메타는 또 이러한 이미지를 보낸 사람을 차단하고 채팅을 신고할 수 있는 옵션을 제공하고, 이런 식으로 접근하는 사람에겐 응하지 않아도 된다는 안내 메시지도 표시됩니다.

메타는 이와 함께 잠재적으로 성 착취 사기에 연루될 수 있는 계정을 식별하는 데 도움이 되는 기술을 개발 중이라고 밝혔습니다.

메타는 지난 1월 미성년자가 유해 콘텐츠에 노출되지 않도록 해당 콘텐츠를 자동으로 차단하는 방안을 마련할 예정이라고 발표한 바 있습니다.

이 같은 조치는 미국 당국의 압박이 가중되는 상황에서 나온 것으로, 지난해 10월 미국 내 41개 주 정부는 인스타그램 등이 과도한 중독성을 갖도록 설계돼 미성년자의 정신건강에 피해를 주고 있다며 메타를 상대로 소송을 제기했습니다.

#인스타그램 #노출 #사진 #AI