국제앰네스티 "증오·폭력 부추긴 페이스북, 로힝야족에 배상하라"

보고서 통해 "혐오 표현 대부분 알고리즘 타고 확산" 지적

소셜미디어 페이스북의 알고리즘이 미얀마의 이슬람계 소수민족 로힝야족에 대한 증오를 증폭시켰으니, 이를 소유한 기업 메타가 로힝야족에 배상해야 한다고 국제앰네스티가 29일(현지시간) 밝혔다.

앰네스티는 이날 ‘사회적 잔혹행위: 메타와 로힝야족의 회복을 위한 권리’란 제목의 보고서에서 페이스북의 이윤을 추구하는 알고리즘 시스템이 로힝야족에 대한 폭력으로 이어졌다고 지적했다.

2017년 8월 미얀마 군부가 로힝야족에 살해, 고문, 방화를 자행하며 로힝야족 수십만명이 난민이 됐다. 앰네스티 보고서에 따르면 이런 탄압이 시작되기 수개월 전 페이스북에는 주로 군부와 급진적 불교 민족주의 단체가 주도하는 반로힝야족 콘텐츠가 쏟아졌다. 무슬림 인권을 옹호하면 ‘국가적 반역자’로 묘사하고, ‘이슬람교도는 총에 맞아야 한다’는 등의 내용이었다.

기본적으로 메타는 참여 기반 알고리즘 시스템을 사용해 페이스북의 뉴스 피드, 랭킹, 추천, 그룹 게시물 등을 강화한다. 또한 사용자가 페이스북상에 오래 머물수록 메타는 타깃형 광고를 더 많이 팔아 수익을 얻는다.

이에 대해 앰네스티는 “증오와 폭력, 차별을 선동하는 게시물을 내보내는 건 사람들을 플랫폼에 오래 붙들어주는 효과적인 방안”이라며 “즉 이런 게시물을 홍보하고 확대하는 것이 페이스북 비즈니스 모델의 핵심”이라고 밝혔다.

앰네스티에 따르면 2012년 내부 연구에서 메타는 자사의 알고리즘이 실제 현실 속에서 심각한 해를 초래할 수 있다는 점을 인지하고 있었다. 2020년 조사에서 페이스북은 반로힝야 움직임을 이끄는 인물에 관한 동영상 조회 수의 70% 이상이 ‘다음 동영상 보기’에서 발생했다고 밝혔다. 이용자가 자신이 직접 찾은 동영상이 아니라 페이스북의 알고리즘이 추천한 동영상을 봤다는 의미다.

2020년 10월 메타 최고경영자(CEO) 마크 저커버그는 미 상원에 출석해 “지난 수년 동안 우리는 혐오 표현을 적극적으로 찾아내고 있어 내 생각에 94%는 삭제됐으리라 본다”고 밝혔다.

그러나 앰네스티는 메타의 내부 공유 자료를 근거로 “페이스북상 혐오 표현의 약 2%에만 조치를 취했다”고 반박했다.

앞서 로힝야족은 페이스북을 상대로 지난해 12월 미국과 영국에서 집단소송을 제기해 배상금 1500억달러(약 216조원)를 요구했다.

김서영 기자 westzero@kyunghyang.com