[글로벌포커스]SNS 유해 콘텐츠와의 전쟁…“기업 책임”vs“표현 침해”

본격화된 글로벌 SNS 규제
SNS 플랫폼 기업 중재자 넘어 책임론
유럽 규제 강화…미국도 변화 움직임
AI 발전 따른 규제 필요하다는 입장
표현의 자유 지나치게 제한할 우려도

‘서구 민주주의 사회에서 사회관계망서비스(SNS) 플랫폼 내 이용자들끼리 한 행위에 대해 기업 수장이 체포된 적은 없었다.”(뉴욕타임스·NYT)

지난달 24일(현지시간) 텔레그램 창업자 파벨 두로프가 프랑스 땅을 밟았을 때 현지 경찰에 체포된 사건은 SNS 이용자의 일탈행위에 플랫폼 기업도 더 이상 자유롭지 못하다는 것을 시사한다. 텔레그램 내 미성년자 성착취물 등 불법 행위에 대한 프랑스 수사당국의 협조를 응하지 않았다는 게 두로프의 체포 이유였다.

전 세계 각국이 쓰나미처럼 밀려오는 온라인 유해 콘텐츠와 전쟁을 벌이는 과정에서 기업에 책임을 묻는 경우가 잦아질 전망이다. SNS의 판이 커진 가운데 인공지능(AI) 기술 발달로 유해 콘텐츠의 양이 방대해졌지만, 기업은 소극적으로 대응하고 있다는 이유에서다. 일각에서는 기업이 이용자를 검열하면서 표현의 자유가 지나치게 위축되는 게 아니냐는 우려의 목소리도 나온다.

기업들 “이건 아니다” 일제히 목소리

두로프가 체포된 것을 두고 영향력 있는 글로벌 기업 수장들은 일제히 당국의 지나친 처사라며 목소리를 냈다.

엑스(X·옛 트위터) 소유주 일론 머스크 테슬라 최고 경영자(CEO)는 X에 “유럽에서 머지않아 밈(meme)에 ‘좋아요’를 누른다는 이유만으로 처형당하는 일이 올 것”이라고 주장했다. 보수 동영상 공유 플랫폼 럼블의 크리스 파블로브스키 CEO는 “프랑스가 레드라인을 넘긴 것”이라며 “럼블은 보편적 인권인 표현의 자유를 위해 가능한 모든 법적 수단을 사용해 투쟁할 것”이라고 강조했다. 데이비드 삭스 전 페이팔 최고운영책임자(COO)는 이번 프랑스 당국의 조치는 인기 있는 SNS를 폐쇄하려는 것의 일환이라는 음모론을 펼치기도 했다.

SNS 규제 적극적인 유럽

유럽은 전 세계 중 SNS 규제에 가장 적극적이라는 평가를 받는다. 지난달 영국에서 어린이 3명을 묻지마 살해한 사건의 범인이 이슬람계 이민자라는 루머가 SNS에 확산하면서 전국적인 극우 폭력 시위가 발발한 것처럼 유럽에서는 SNS의 잘못된 정보가 사회에 물리적 위해를 가할 수 있는 위협적인 도구로 부상했다.

SNS 플랫폼 기업을 단순한 중개자의 관점으로만 바라봐서는 사회적 혼란을 막을 수 없다는 시각이 자리 잡은 것으로 보인다. 유럽연합(EU)은 지난해 8월 SNS 플랫폼 내 허위정보, 불법 콘텐츠 확산을 막기 위한 디지털서비스법(DSA)을 시행했고, 메타 플랫폼, 틱톡, X에 대해 조사를 벌이는 중이다. 영국은 성적·동물 학대 등 아동 안전을 위협할 수 있는 콘텐츠를 삭제하기 위한 노력을 SNS가 기울이지 않을 경우 경영진 개인을 처벌할 수 있도록 한 ‘온라인 안전법’을 내년 하반기 시행에 앞두고 있다.

미국서도 기업 책임론 부상

표현의 자유에 방점을 찍어 온 미국도 변화의 바람을 맞고 있다. 미국에서는 1996년 제정된 통신품위법의 면책조항인 230조를 통해 SNS에 유통되는 불법 콘텐츠에 대해 플랫폼 기업이 면책권을 받아 왔다. 230조는 ‘인터넷 서비스 이용자가 만든 정보를 서비스 제공자가 발행 내지 발화한 것으로 간주해서는 안 된다’는 내용을 담고 있다. 블룸버그통신은 “최근 수 년간 SNS가 자살 및 자해 등 유해 콘텐츠를 방조했다는 혐의로 수백 건의 소송이 제기됐는데 법원은 이 법에 근거해 소송을 기각해왔다”고 설명했다.

그러나 최근 통신품위법 230조에 반하는 미국 법원 판결이 나오면서 플랫폼 기업들이 예의 주시하고 있다. 지난달 27일 미 필라델피아 제3연방순회항소법원은 2021년 틱톡에서 유행한 이른바 ‘기절 챌린지’를 따라하다 10대 청소년 닐라 앤더슨이 사망한 사건과 관련, 유가족이 제기한 틱톡에 대한 소송 권리가 있을 수 있다며 하급심 법원의 판결을 뒤엎었다. 폴 메이티 등 3인으로 구성된 재판단은 “틱톡이 사람에게 치명적일 수 있는 기절 챌린지가 앱 내 퍼지고 있다는 사실을 알고 있었고, 알고리즘이 챌린지에 참여하도록 유도한 결과 죽음에 이른 것”이라며 판결 이유를 들었다.

SNS 플랫폼 기업의 시시비비를 최종적으로 가려낼 때까지 수 년이 소요될 전망이지만 미국 법조계에서는 이번 판결 자체로 의의가 있다고 본다. SNS 내 유해 콘텐츠가 가져온 극단적인 결과의 경우, 플랫폼 기업이 통신품위법 230조에 의거해 반드시 면죄부를 받는 것은 아니라는 선례를 남겼기 때문이다.

한편 미국에서도 일부 주를 중심으로 SNS 플랫폼 기업 규제에 나서고 있다. 뉴욕주는 지난 6월 SNS 플랫폼 기업들이 청소년들에게 알고리즘 피드를 제공하는 것을 금지하는 법안을 통과시켰고, 플로리다주는 14세 미만 어린이의 SNS 가입을 금지하는 조치를 내년부터 시행하기로 했다.

딥페이크에 뒤집어진 한국...규제는 타당?

최근 SNS 내 딥페이크 범죄가 급증한 한국 사례처럼 AI 기술이 고도화된 만큼 이를 보완할 수 있는 규제책이 마련되는 것은 타당하다는 지적이 나온다.

물론 법 강화에 따른 플랫폼 업계의 SNS 검열이 강화되며 표현의 자유가 침해되는 게 아니냐는 해묵은 우려도 다시 수면 위로 떠오르고 있다. NYT에 따르면 메타 플랫폼과 구글은 유해 콘텐츠를 규제하려는 정부 방침에 협조적인 편이다.

다만 텔레그램뿐만 아니라 X는 이 같은 표현의 영역을 제한하는 규제에 반대하는 행보를 보인다. X는 올해 혐오 표현을 전파하는 것으로 의심되는 계정을 차단하라는 브라질 법원의 명령을 거부했고, 이에 최근 브라질에서 X 접속이 차단되는 초유의 사태까지 벌어졌다.

워싱턴포스트(WP)는 “민주주의 국가에서 현재 규제 기관은 표현의 자유와 유해 정보 통제라는 두 가지 영역 사이에서 균형점을 맞춰야 하는 지점에 놓여 있다”고 진단했다.

변선진 기자 sj@asiae.co.kr