'도덕성 논란' 페이스북, 이번엔 인도서 '종교갈등 조장 콘텐츠' 방치?

2019년 2월 가계정 만들어 실험한 내부 보고서 폭로
"인도서 종교갈등 조장 알고리즘과 콘텐츠 조치 안해"

[이데일리 김나리 기자] 내부 고발자 폭로로 ‘도덕성 논란’에 휘말린 페이스북이 이번에는 인도에서 종교갈등을 조장하는 알고리즘과 콘텐츠를 알고도 방치했다는 논란에 휩싸였다.

페이스북이 지난 4월 VR 플랫폼 ‘오큘러스 퀘스트’를 이용해 가상 공간에서 기자회견을 열었다. 사진은 페이스북이 제공한 페이스북 VR 기자간담회. (사진=연합뉴스)

24일 블룸버그, AP통신 등 외신들은 페이스북 내부 고발자인 수석 프로덕트 매니저 프랜시스 하우건이 공개한 자료 중 2019년 2월 인도에서 이뤄진 가계정 실험 결과를 집중적으로 보도했다.

이 자료에 따르면 페이스북 연구팀은 당시 인도 자이푸르에 사는 21세 여성의 프로필을 사용해 가짜 계정을 만들어 3주간 서비스 사용 실태를 실험했다. 해당 가계정은 페이스북 알고리즘이 추천한 친구, 페이지, 그룹만 팔로우했다.

실험 결과 반파키스탄, 이슬람 혐오 콘텐츠, 가짜뉴스가 넘쳐났던 것으로 파악됐다. 당시는 힌두교가 다수인 인도와 이슬람 국가인 파키스탄의 갈등이 최고조로 달할 때다. 인도는 인도령 카슈미르(잠무-카슈미르주)에서 발생한 대형 자살폭탄 테러와 관련해 2019년 2월 26일 전투기 12대를 동원, 파키스탄령 내 테러리스트 캠프를 공습하기도 했다.

특히 실험을 위해 만들어진 페이스북 가계정이 팔로우한 계정에는 파키스탄에 대한 인도인들의 보복 공격 관련 게시물, 이슬람교와 무슬림에 대한 폭력적·혐오적 콘텐츠가 넘쳐났다. 참수당한 시신 사진부터 테러와 공습 관련 조작된 이미지도 많았다. 실험을 진행한 연구자는 “지난 3주간 평생 본 것보다 더 많은 시신의 이미지를 가계정 뉴스 피드를 통해 봤다”고 보고서에 적었다.

그러나 페이스북은 이러한 사실을 알고도 아무런 조치를 하지 않은 것으로 나타나 비판이 일었다. 블룸버그 통신은 “인도에서 이뤄진 실험은 페이스북의 영향이 세계적으로 크다는 점을 보여준다”며 “페이스북은 유해 콘텐츠 관리 비용 대부분을 미국 등 영미권에 쏟고 있고, 인도와 인도네시아, 브라질 등에서는 해당 언어로 기본적인 감독을 하는 것도 부족하다”고 지적했다.

이와 관련해 페이스북 대변인은 “힌디어와 벵골어 등 다양한 언어로 된 혐오 콘텐츠를 걸러내기 위한 기술에 상당한 투자를 한 결과 올해 혐오 콘텐츠를 절반으로 줄였다”며 “계속해서 개선해 나가고 있다”고 밝혔다.

한편 페이스북은 최근 인스타그램 서비스가 10대 청소년들의 정신건강에 유해하다는 사실을 알고도 방치했다는 자체 연구 결과가 알려지면서 어린이용 버전 인스타그램 개발 계획을 중단하기도 했다. 앞서 월스트리트저널(WSJ) 등 외신은 페이스북이 자회사 인스타그램이 청소년 정신 건강에 악영향을 미치는 사실을 방치하고 유명인 계정을 특별 관리했다는 등의 의혹을 제기했다.

김나리 (lord@edaily.co.kr)