[사설]허위정보 마구 퍼뜨리는 SNS 알고리즘 퇴출시켜야

뉴시스

무슬림 이민자가 어린이들을 살해했다는 거짓 정보에서 시작된 영국의 ‘반(反)이민’ 폭동이 일주일 넘게 이어지고 있다. 극우 시위대들이 이슬람사원이나 망명 신청자 숙소에 불을 지르고, 무슬림 상점을 약탈하고 있다. 인근 지역의 집과 차량도 대거 파손됐다. 현재까지 폭동 가담자 400여 명이 붙잡혔고 체포 과정에서 경찰관도 50명 넘게 다쳤다.

이번 사건은 가짜 정보의 유통 경로인 소셜미디어를 방치할 경우 얼마나 심각한 폭력 사태가 벌어질 수 있는지를 보여준다. 지난달 말 사건 발생 직후 누군가 X(옛 트위터)에 범인의 실명이라며 가짜인 아랍어 이름을 올리자 불과 하루 만에 X에 올라온 게시물 중 범인에 대해 ‘무슬림’ ‘이민자’라고 언급한 글이 2700만 건에 달했다고 한다. 이런 허위 정보를 확대 재생산하며 증오심을 부추긴 극우인사는 2018년 트위터 계정이 막혔지만 지난해 트위터가 X로 바뀌면서 아무 제약 없이 활동해 왔다.

특히 SNS의 추천 알고리즘은 거짓 정보 확산의 촉진제였다. X는 범인 관련 허위 게시물 조회가 많아지자 ‘영국에서 인기 있는 트렌드’로 분류해 관심을 더욱 증폭시켰다. 틱톡에선 사건 발생 지역을 검색하면 범인의 가짜 이름이 추천 검색어로 떴고, 유튜브에서 이민자나 무슬림에게 부정적인 콘텐츠를 자주 봐온 사람들에겐 허위 동영상들이 집중적으로 노출됐다. 허위 정보와 혐오 정서의 중독성이 강하다 보니 당국에서 피의자 신상을 영국 태생의 17세 기독교인이라고 공개한 뒤에도 폭동은 사그라들지 않고 있다.

빅테크 기업들이 알고리즘을 운영하는 주된 이유는 사용자들을 오래 붙잡아둠으로써 수익을 극대화하기 위해서다. 최근 SNS나 유튜브로 정보를 접하는 사람이 많은데 정체불명의 알고리즘에 의해 선택된 것들이어서 자칫 여론이 왜곡되거나 거짓 정보가 여과 없이 확산될 가능성이 높다. 이런 이유로 미국과 유럽에서는 미성년자들에게 자극적인 영상을 끝없이 추천해 온 SNS를 통제하는 법안을 도입했다. 영국의 사례에서 보듯 사회적 갈등을 조장할 수 있는 허위 정보의 폐해는 이보다 훨씬 크다. 더는 허위 정보를 무차별적으로 퍼뜨리는 알고리즘을 방치해선 안 된다. 특정 알고리즘이 사회적 갈등과 혐오를 조장하는 것으로 판단될 경우 즉시 퇴출시키고 해당 기업에도 무거운 책임을 물을 수 있는 제도적 근거와 기준을 마련해야 한다.