자살‧마약영상, 법 없으면 정말 못 막을까 [인포로 본 세상]

더스쿠프’s infographic
SNS 타고 퍼지는 유해 콘텐츠
규제 필요하다는 지적 나와
예방 시스템 먼저 강화해야
신고 기능 직관성 높여야 할 때
시청자와 소통 못하게 조치해야

최근 정부에서 소셜미디어를 법적으로 규제하려는 움직임을 보이고 있다.[사진=뉴시스]

최근 자살·폭력·마약 등 유해한 내용을 담은 콘텐츠가 소셜미디어를 타고 급속도로 퍼져나가고 있다. SNS에서 실시간으로 방송하거나, 유해 콘텐츠를 담은 동영상을 메신저로 공유하는 등의 방법을 통해서다.

관련 통계가 이를 잘 보여준다. 방송통신심의위원회에 따르면 지난해 자살유발 정보와 관련해 시정 요청을 받은 횟수가 1046건으로 전년(713건) 대비 46.7% 증가했다(표❶). 온라인에서 비대면으로 마약을 거래한 범죄자들의 검거 수도 같은 기간 1072명에서 1495명으로 39.5% 증가했다. 소셜미디어에 자살·마약 투여 등을 부추기는 정보가 예전보다 더 늘었다는 얘기다.

이를 두고 한편에선 소셜미디어가 유해 콘텐츠의 온상으로 떠오른 이유로 '규제의 부재'를 꼽는다. 소셜미디어가 법의 사각지대에 놓여 있기 때문이란 얘긴데, 근거 없는 주장은 아니다. 일례로 소셜미디어 중 유튜브와 인스타그램은 생방송이 가능하지만 '방송'이 아닌 '부가통신서비스'로 분류된다.

이에 따라 방송법이 아닌 정보통신망법이 적용돼 지상파 방송보다 심의가 느슨한 편이다. 문종탁 변호사(법률사무소 JT)는 "지상파 방송의 경우 내부적으로 송출 전에 심의를 엄격하게 적용하지만 SNS와 관련해선 생방송에 직접 개입해 규제하는 현행법은 없다"고 말했다.

그래서인지 정부도 소셜미디어 규제를 해결책으로 제시하려는 듯하다. 대통령 직속 기관인 국민통합위원회 소속 '자살 위기극복 특별위원회'는 지난 4월 28일 세미나를 개최했다.

이날 특위는 유튜브·OTT·SNS·쇼트폼 등의 자살 관련 유해정보 자체등급분류 기준 강화 자살 관련 유해정보를 담은 인터넷 콘텐츠를 빠르게 심의·차단할 수 있는 패스트트랙 제도 도입 등을 내걸며 "소셜미디어를 현실적으로 규제할 필요가 있다"고 강조했다.

소셜미디어에 올라온 유해 콘텐츠를 최대한 빠르게 차단하는 '확산 예방 시스템'을 마련하는 게 무엇보다 중요하다. [사진=게티이미지뱅크]

문제는 법망을 만들더라도 제 역할을 하는 게 사실상 불가능하다는 점이다. 하루에만 소셜미디어에 수백만개의 콘텐츠가 올라오는데, 여기에 하나씩 규제의 잣대를 대기란 쉬운 일이 아니다.

특히 바로 찍어 바로 올리는 인스타그램·틱톡 등 SNS에선 더 그렇다. 박상주 메타버스콘텐츠블록체인NFT포럼 사무총장은 "법적 규제는 자유롭게 즉각적으로 콘텐츠를 올리는 소셜미디어와 체질적으로 맞지 않는다"면서 "규제의 대부분은 필연적으로 사후약방문식 조치가 될 것"이라고 꼬집었다(표❷).

그럼 어떻게 해야 할까. 박 사무총장은 "소셜미디어 속 유해 콘텐츠의 무서운 점은 엄청난 파급 속도에 있다"면서 "처음 소셜미디어에 올라온 유해 콘텐츠를 최대한 빠르게 차단하는 '확산 예방 시스템'을 마련하는 게 무엇보다 중요하다"고 말했다.

소셜미디어는 이미 '확산 예방 시스템'을 구축해 놨다. 가령, 유튜브는 지난해에만 566만3175개의 동영상과 644만9291개의 계정을 유해 콘텐츠란 이유를 들어 삭제했다(표❸). 그중 71.0%는 조회수가 10회를 채 넘지 않았다. 이는 유해 콘텐츠의 패턴을 학습한 인공지능(AI)이 유해 콘텐츠의 94.0%를 미리 감지한 덕분이다.

유해 콘텐츠의 확산을 막는 방법은 또 있다. 신고 기능을 강화하는 것이다(표❹). 문 변호사는 "자살 방송의 경우, 방송자가 시청자의 관심을 끌기 위해 채널을 켜는 경우가 많다"면서 "방송에 신고가 누적될 경우 해당 방송이 중단될 때까지 '좋아요 버튼'이 눌리지 않거나 시청자 수가 보이지 않는 등의 임시조치를 취하면 사고 확률을 크게 낮출 수 있을 것"이라고 말했다.

박 사무총장도 "1~2건의 신고로는 영상이 내려가지 않으므로 시청자들의 적극적인 참여를 유도해야 한다"면서 "신고 버튼의 가시성을 높이거나 절차를 간소화하면 영상 차단에 도움이 될 것"이라고 지적했다. 유해 콘텐츠로 인한 피해 확산을 막으려면 지금은 업체의 자율적인 정화 기능과 소비자들의 신고 의식부터 강화하는 데 집중해야 한다는 얘기다. 현실에서 적용하기 힘든 법과 제도를 둘러싼 논쟁은 그다음에 해도 늦지 않다.

[일러스트=게티이미지뱅크]

이혁기 더스쿠프 기자
lhk@thescoop.co.kr