“심각하다” 게임 좋아하는 어린이에게 유튜브가 추천한 영상은

14세로 위장한 유튜브 계정의 추천 알고리즘에 뜬 영상 중 하나. /TTP

미국에서 총기 난사 사건이 잇따르고 있는 가운데, 유튜브 어린이 추천 영상에 폭력적인 영상이 정제되지 않은 채 무분별하게 뜨고 있다는 연구 결과가 나왔다.

17일(현지 시각) AP통신에 따르면 소셜미디어를 연구하는 미국의 비영리단체 ‘기술 투명성 프로젝트’(TTP)는 유튜브 알고리즘이 게임을 좋아하는 어린이 및 청소년에게 어떤 영상을 추천하는지 분석한 결과를 지난 16일 발표했다. 이들은 4개의 독립된 유튜브 계정을 만든 뒤 2개는 9세 소년으로, 나머지 2개는 14살 청소년으로 위장해 추천 알고리즘을 관찰했다. 관찰 기간은 지난해 11월 1일부터 30일까지였다.

그 결과 추천 영상에는 학교 총격 사건, 총기 훈련, 화기 제조 방법, 연쇄 살인범 등 폭력적인 영상이 떴다. 추천 영상을 보면 볼수록 알고리즘은 계속해서 비슷한 영상을 제시했다. 해당 계정들로 추천 영상을 고스란히 다 본 결과, 총 1707개의 폭력적인 영상이 추천됐다. 나이별로 구체적으로 보면, 9세 계정에는 382개, 14세 계정에는 1325개가 추천됐다. 각각 하루 평균 12개, 44개 이상의 영상이 뜬 셈이다. 추천 영상을 시청하지 않은 경우에도 약 200개가 나왔다.

TTP는 유튜브 알고리즘이 안전하지 않다고 지적했다. TTP는 “이런 유해 콘텐츠는 어린이들에게 엄청난 충격을 줄 수 있으며 극단주의와 폭력의 어두운 길로 빠지게 할 수 있다는 점에서 심각한 문제”라고 했다. 이어 “유튜브가 관련 정책을 수립해 대응하는 등 폭력적이고 유해한 콘텐츠의 확산 방지를 위해 노력하고 있지만, 충분하지 않다”며 “유해 콘텐츠 차단에 더 많은 투자를 할 필요가 있다”고 했다.

총기 규제를 지지하는 비영리단체 ‘에브리 타운 포 건 세이프티’(ETGS)의 저스틴 바그너 국장은 “(연구 결과는) 총기와 무기 관련 콘텐츠에 대한 연령제한을 더욱 엄격하게 적용할 필요가 있음을 보여준 것”이라며 “어린이들이 유튜브를 통해 무기 제작 방법 등을 배우지 못하도록 해야 한다”고 했다. 그러면서 “연방 규제가 없는 상태에서 소셜미디어 업체들이 자체 정책 강화를 위해 더 큰 노력을 기울여야 할 필요가 있다”고 했다.

한편 미국에서는 10대의 총기 난사 소식이 빈번하게 전해진다. 불과 하루 전에는 뉴멕시코주 파밍턴의 한 주택가에서 18세 남성이 무차별 총기 난사를 해 최소 3명이 목숨을 잃었다. 지난 13일에는 텍사스주의 한 햄버거 가게에서 12세 소년이 30대 종업원을 총으로 쏴 숨지게 했다.