"마약·성범죄 방치" CEO 예비 기소···세계는 지금 SNS와 전쟁 중

■딥페이크발 빅테크 규제 가속화
佛, 제3자 게시물에 책임 물어
두로프 텔레그램 CEO 기소
"틱톡 알고리즘 관리책임 있다"
美법원, 챌린지 사망소송 재개
"유해콘텐츠 통제" 목소리 커져
온라인 검열 우려·반발도 확산

[서울경제]

전 세계 9억 명이 사용하는 메신저 앱 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프가 플랫폼에서 사기와 마약 밀매, 아동 포르노 등 성범죄를 허용했다는 혐의로 28일(현지 시간) 프랑스 법원에 예비 기소됐다. 제3자 게재 불법 콘텐츠에 대한 책임을 소셜네트워크서비스(SNS) CEO에게 물어 형사 기소한 것은 이번이 처음이다. ‘딥페이크(인공지능(AI) 기반 불법 합성물)’를 활용한 범죄가 기승을 부리는 가운데 SNS 소유주 및 경영진에게도 책임을 물어야 한다는 여론이 커진 데 따른 것이다. 일각에서는 과도한 정부 검열과 통제가 표현의 자유를 위축시킬 것이라는 반발도 거세다.

◇범죄 온상으로 전락한 SNS=두로프 CEO가 텔레그램의 ‘느슨한 중재’에 따른 범죄 공모 혐의로 기소된 이날 미국 연방항소법원은 틱톡의 ‘기절(블랙아웃) 챌린지’를 따라하다 사망한 10세 소녀의 어머니가 제기했다가 2022년 기각됐던 소송을 재개하기로 했다. 틱톡의 알고리즘 관리 책임을 묻기로 한 것이다. 앞서 1심은 인터넷 기업들이 제3자 게시물에 대한 책임에서 면제될 수 있도록 한 통신품위법을 인용해 소송을 기각했다. 하지만 항소법원은 틱톡이 해당 콘텐츠를 적극적으로 홍보한 결과 통신품위법이 보호하는 ‘수동적인 중개자’ 영역을 넘어섰다고 판단했다.

이 같은 변화는 최근 SNS가 범죄의 온상이 되면서 SNS 유해 콘텐츠에 대한 통제가 필요하다는 목소리가 커지고 있는 흐름과 맥을 같이한다. 실제 영국 보안 업체 섬서브의 보고서에 따르면 지난해 세계 주요국의 딥페이크 사기 범죄는 미국과 캐나다가 전년 대비 각각 30배, 벨기에가 29배, 일본이 28배 등 폭발적으로 늘었다. 필리핀은 45배나 증가하면서 범죄의 집중 타깃이 됐고 한국도 10배가 늘었다. 이에 발맞춰 각종 규제 법안이 속속 도입되고 있다. 프랑스는 올해 SNS가 가짜뉴스, 인종차별, 불법 상거래 등의 콘텐츠를 근절하기 위해 당국과 협력해야 한다는 내용을 골자로 한 법안을 통과시켰고 영국도 지난달 반이민·극우 폭동이 벌어진 후 악의적인 콘텐츠 확산에 대해 더 엄격한 법률이 필요하다는 목소리가 힘을 얻고 있다. 말레이시아는 자국 내 등록 사용자가 800만 명 이상인 SNS의 운영을 계속하려면 올해까지 아동 안전 보호 및 딥페이크 등 유해 콘텐츠 관리, 온라인 성범죄 해결 방안 등을 마련해 당국에 허가를 받도록 했다.

◇표현의 자유 위축 경고도=다만 이 같은 통제 일변도가 온라인 검열로 이어질 수 있다는 우려도 나온다. 두로프의 예비 혐의 중 하나가 ‘프랑스 수사 당국의 정보 요청에 협조하지 않았다’는 점에서 언론 자유 옹호론자들의 반발도 거세다. 실제 월스트리트저널(WSJ)은 두로프의 체포를 놓고 “두로프가 2013년 텔레그램을 개발한 후 세계 몇몇 정부가 그에게 구애를 펼치기도 하고 통제를 시도하기도 했는데 모두 실패했다”며 정부 통제 의혹을 제기했다.

그동안 정부와 콘텐츠 통제 문제로 갈등을 벌여온 SNS 기업 수장들의 불만도 폭발했다. 동영상 플랫폼 럼블의 크리스 파블로브스키 CEO는 “검열을 안 했다는 이유로 두로프를 체포한 것은 레드라인을 넘은 것”이라고 비판했고 X(옛 트위터) 소유주인 일론 머스크 역시 “2030년 유럽에서 당신은 밈(meme·온라인 유행 콘텐츠)을 좋아했다는 이유로 처형될 수 있다”는 글을 올려 프랑스 사법 당국을 비꼬았다. 당사자인 텔레그램 측은 “플랫폼이나 그 소유주가 해당 플랫폼 남용에 대한 책임이 있다고 주장하는 것은 터무니없다”는 입장을 냈다.

두로프에 대한 기소가 앞으로 SNS 단속을 정당화하려는 각국 정부에 의해 악용될 가능성도 거론된다. 튀르키예 정부는 지난달 자국이 지지하는 팔레스타인 무장 정파 하마스의 지도자에 대한 추모 글이 인스타그램에서 삭제되자 자국 내 인스타그램 서비스를 1주일간 전면 차단하는 결정을 내리기도 했다. 브라질 대법원도 올 4월 가짜뉴스 등을 퍼뜨린 계정을 삭제하라고 X에 명령하면서 이를 따르지 않을 경우 브라질 내 법률 대리인을 체포하겠다고 위협했다. 머스크 CEO는 이 같은 명령에 이의를 제기하며 브라질 현지 사업장을 폐쇄하기로 결정했다.

김경미 기자 kmkim@sedaily.com송주희 기자 ssong@sedaily.com