칼 빼든 인방플랫폼, 딥페이크·불법촬영 잘라낸다

아프리카TV, 치지직 불법 콘텐츠 대응 현황/그래픽=이지혜

최근 딥페이크(이미지합성) 합성음란물, 불법촬영물 등이 SNS(소셜미디어) 등을 통해 확산하며 사회적 우려가 커지는 가운데 국내 개인방송 플랫폼 아프리카TV와 치지직도 관련 대응에 박차를 가하고 있다.

2일 업계에 따르면 SOOP(숲·옛 아프리카TV)이 운영하는 동영상 플랫폼 아프리카TV는 매월 음란물 및 성적 불법촬영물 등에 대한 단속 및 형사고발 조치를 이용자들에게 안내한다. 숲은 전날 공지를 통해 "아프리카TV는 음란물 및 불법촬영물 방송은 허용되지 않는다"며 "모니터링 및 엄격한 단속·규제를 시행해 서비스 제한조치와 관련자에 대한 형사고발 조치 등 강력대응하고 있다"고 했다.

규제대상은 음란물 송출 및 음란성 방송 제목기재 행위, 성적 욕망 또는 사람의 신체를 상대의 의사에 반해 촬영하는 행위, 아동·청소년 관련 성적행위 등이다. 적발되면 서비스 영구정지 및 형사고발 조치한다. 숲은 높은 수준의 모니터링시스템을 갖췄다. 회사에 따르면 모니터링 전담인력만 100여명에 달하며 24시간 근무체계를 통해 실시간 대응한다.

숲은 지난 4월부터 방송통신위원회와 '디지털성범죄 불법촬영물 유통방지 예방 캠페인'도 시행 중이다. BJ(인터넷방송인), 시청자들에게 성적 불법촬영물에 대한 개념을 알려주고 적발시 신속한 신고 및 삭제에 대한 가이드라인을 안내하는 것이 골자다. 디지털성범죄 예방영상도 제공한다.

네이버(NAVER)는 음란물 필터링 강화를 위해 AI(인공지능)기술인 '엑스아이'(X-eye)를 치지직에 적용해 대응한다. 네이버에 따르면 엑스아이가 유해사진 및 동영상을 걸러낼 수 있는 확률은 98.1%에 달한다. 직원이 놓치거나 늦게 발견해 조치를 취할 때까지 유해물이 노출될 수 있는 허점을 보완할 수 있다. 엑스아이는 현재 치지직의 VOD(주문형비디오), 채팅에 적용됐다. 라이브영상까지 적용범위를 확대할 계획이다.

또 네이버는 지난달 28일부터 음란물 등 불법콘텐츠 신고창구 운영을 시작했다. △성범죄에 해당하는 내용 △아동·청소년 보호를 저해하거나 청소년 유해 또는 음란성 게시물에 해당하는 내용 △본인의 명예를 훼손하거나 초상권 등 권리를 침해하는 내용 △공직선거법 등 선거 관련 법을 위반하는 내용 모두 4가지 종류의 불법콘텐츠 신고를 받는다.

네이버 역시 24시간 모니터링으로 유해콘텐츠 필터링을 강화하고 있으며 위반사항이 반복되는 스트리머의 계정을 영구정지하거나 채널 비공개전환 등 조치를 취한다.

카카오도 지난달 29일부터 카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견한 경우 △불법촬영물 등 신고 바로가기 △유해정보 신고 바로가기 링크에 접수해 신고할 수 있도록 했다.

김승한 기자 winone@mt.co.kr