검색 차단하지 않는 이유 묻자, 엑스 측 "바쁘다" "위험 키워드 검색 차단 조치 등 필요"
우울증을 호소하는 10대 여학생을 노린 범죄가 끊이지 않고 있습니다. 기존엔 인터넷 커뮤니티 '우울증 갤러리'에서 주로 범죄가 이뤄졌는데, 최근엔 소셜미디어 엑스(옛 트위터)에서도 관련 범죄가 이어지는 것으로 확인됐습니다.
14살 여중생 엑스에서 우울증 호소…30대 학원강사가 공감 표하며 접근해 성폭행
JTBC가 어제(29일) 보도한 사건이 대표적입니다. 14살 여중생 A양은 지난해 말 엑스에 우울증을 호소하는 글을 올렸는데, 이를 본 30대 학원강사 B씨가 공감대를 형성하며 접근했습니다. 이 남성은 A양을 직접 불러내 자해를 유도하고, 가학적 성폭행을 저질렀습니다. B양은 큰 충격에 정신병원 폐쇄병동에 입원해 있습니다. B씨는 실제 명문 대학원을 졸업하고 서울 목동에서 아이들을 가르치던 학원강사였습니다. 지난 7월 법원은 미성년자의제강간상해 등으로 기소된 B씨에게 징역 7년을 선고했습니다.
엑스에서 '자해'나 '자살' 같은 특정 키워드를 검색한 결과 끔찍한 게시물들이 그대로 나타났다. 특히 10대 학생들이 남긴 것으로 보이는 게시물이 다수였다.
취재진은 소셜미디어 엑스에서 '자해'나 '자살' 같은 특정 키워드를 검색해 봤습니다. 눈 뜨고 볼 수 없을 정도로 끔찍한 게시물들이 그대로 나타났습니다. 아무런 경고도 없었습니다. 게시물엔 학교, 개학, 조퇴 같은 단어가 곳곳에 보였습니다. 한눈에 봐도 어린 학생들이 남긴 것으로 보였습니다. 일부 게시물은 올린 지 열흘이 지나기도 했습니다. 플랫폼 자체적으로 삭제 조치 등 필터링이 전혀 이뤄지지 않고 있었던 겁니다.
피해자 학부모 "청소년 유해 환경 엑스에 너무 많아, 알고리즘 추천까지"
A양 학부모는 "피해를 겪은 이후 엑스를 다 검색 해보게 됐는데, 범죄의 온상이었다"며 "자살이나 자해 관련 게시물은 물론 조건만남 같은 청소년 유해 환경이 엑스에 다 있었다"고 말했습니다. "알고리즘에 따라 내가 본 것과 비슷하거나 더 자극적인 콘텐츠를 계속해서 추천하는 것도 심각한 문제였다"고 지적하기도 했습니다.
인스타그램(왼쪽)과 틱톡(오른쪽)은 '자해'나 '자살' 같은 단어를 검색했을 때 게시물을 노출하지 않고 전문 상담기관 연락처만 안내하고 있다.
반면 10대 청소년들도 많이 사용하는 다른 소셜미디어 플랫폼들은 다릅니다. 인스타그램과 틱톡 등은 청소년 유해 단어 검색에 어떠한 콘텐츠도 보여주지 않습니다. 오히려 상담기관 전화번호만을 안내하고 있습니다. 엑스와는 대조적인 모습입니다.
엑스의 청소년 유해 콘텐츠 노출 문제는 오래전부터 있었습니다. 지난 2022년 일론 머스크가 트위터 인수 후 엑스로 이름을 바꾸는 동시에 수익에 도움이 되지 않는다고 판단한 상당수 인력을 정리해고하면서 상황이 더 악화했습니다. 한국지사 역시 칼바람을 피해 갈 수 없었습니다. 그나마 있었던 최소한의 모니터링 시스템 등이 대거 사라진 겁니다.
"삭제 요청해도 실제 삭제 비율 낮아"…"사업자가 더 적극적으로 차단해야"
한국생명존중희망재단 구성장 본부장은 "자원봉사자들이 직접 (자해나 자살 같은 위험 콘텐츠들을) 모니터링을 하다가 삭제를 요청하면, 엑스의 삭제 여부를 확인하고 있는데, 실제 삭제가 되는 비율이 높지 않다"며 "근본적으로 그런 콘텐츠가 유통되는 걸 차단하려면 서비스 제공자들이 사전에 역할을 하는 게 매우 중요하다"고 지적했습니다. "엑스 미국 본사 차원의 정책 때문에 우리나라에서도 그대로 둘 수밖에 없는 것으로 보이는데, 더 적극적으로 차단하는 방법을 적용하길 바라고 있다"고도 덧붙였습니다.
엑스 미국 본사 측에 다른 소셜미디어 플랫폼들과 달리 매우 위험한 콘텐츠 검색을 차단하지 않는 이유에 대해 물었으나 "바쁘니까 나중에 다시 확인하라"는 내용의 자동 답변 메시지만 돌아왔다.
취재진은 엑스 미국 본사 측에 여러 차례 이메일을 보냈습니다. 다른 소셜미디어 플랫폼과 달리 위험한 콘텐츠 검색을 차단하지 않는 이유가 무엇인지 등을 물었습니다. 짧은 자동 답변 메시지만 돌아왔습니다. "Busy now, please check back later." 바쁘다고 나중에 다시 확인하란 내용이었습니다. 엑스가 위험 콘텐츠 검색 및 노출 문제를 방치하는 지금 이 순간에도 위험하고 끔찍한 게시물들이 계속 올라오고 있습니다.
