재생산되는 유튜브발 가짜뉴스, 어떻게 해결해야 하나?

[IT동아 정연호 기자] 지난 2019년, 강아지 구충제 펜벤다졸을 복용해 암을 치료할 수 있다는 소식이 국내에 전해졌다. 미국 말기암 환자가 펜벤다졸로 암을 극복했다는 이야기에 사람들은 “새로운 치료법이 나왔다”며 반겼다. 통계에 따르면, 2019년 9월엔 펜벤다졸 판매량은 같은 해 1월부터 8월까지의 평균 판매량보다 5배나 증가했다. 식품의약품안전처는 “펜벤다졸은 사람을 대상으로 한 임상시험 결과는 없다”면서 이를 장기간 복용하면 혈액, 신경, 간 등에 손상이 발생할 수 있다고 경고했다.

펜벤다졸의 항암 효과를 반박한 식품의약품안전처의 보도자료, 출처=식품의약품안전처

정부기관의 경고에도 펜벤다졸 효용성을 믿는 사람들은 여전히 존재했다. 이들은 왜 공신력 있는 정부기관 반박에도 대체의학을 따랐을까? 이 사건을 분석한 세종충남대학교병원 권정혜 교수 연구팀은 그 원인을 정보의 다양한 출처(소스)와 유튜브 추천 알고리즘에서 찾았다. 유튜브에서 펜벤다졸 콘텐츠를 보는 사람들은 추천 알고리즘에 의해 단일 채널이 아닌 여러 채널에서 펜벤다졸 사용 후기를 접하게 된다. 여기에 더해 의사들이 유튜브 콘텐츠에서 “과학적 근거는 없지만, 시도해볼 가치는 있다”며 가짜뉴스에 대한 신뢰도를 높이는 경우도 있었다. 알고리즘이 추천하는 다양한 채널의 영상은 시청자의 잘못된 믿음을 강화했다.

정상적인 치료를 받지 않고 대체의학의 힘을 빌리면 제대로 된 치료를 받을 수 없어 건강이 나빠진다. 항생제와 백신 접종을 거부하는 ‘약 안 쓰고 아이 키우기(안아키)’로 인해 아이들의 건강이 위험해진 게 대표적인 사례다. 펜벤다졸 사례처럼 가짜뉴스가 전문가에 의해 ‘과학적’인 주장으로 둔갑할 때 상황은 더 심각해진다. 영국 과학저널 '네이처 인간 행동'(Nature Human Behaviour)’에 실린 논문에 따르면, 과학적으로 들리는 백신 가짜뉴스는 백신에 대한 사람들에 인식에 영향을 준다. 가짜뉴스가 과학의 탈을 쓰면서 사람들을 교묘하게 속이는 것이다.

권정혜 교수 연구팀은 “유튜브의 추천 시스템은 신뢰할 만한 의학 정보와 연결되는 게 아니라는 걸 발견했다”고 밝혔다. 잘못된 정보를 습득해도 추천 시스템을 통해선 이를 정정할 공신력 있는 출처의 콘텐츠를 접하지 못한다는 것. 일부 병원 채널이 추천 네트워크에 연결되긴 했지만, 이는 단순히 사람들의 영상 시청 습관을 반영한 것으로 분석된다. 연구팀은 영상의 출처를 다양화하기 위해서 “정부기관은 유튜브 인플루언서나 다른 채널을 통해서도 정보를 제공해야 한다”고 권고했다.

유튜브 알고리즘이 퍼뜨리는 가짜뉴스

유튜브의 가짜뉴스 문제는 국내에서만 논쟁거리가 아니다. 세계 각국 정부는 유튜브를 비롯한 인터넷 플랫폼에 가짜뉴스에 적극적으로 대응하라는 요구를 한다. 최근엔 유튜브가 가짜뉴스와 관련된 비판을 많이 받는다. 플랫폼 이용자 수가 크게 증가하면서 이곳에서 시작된 가짜뉴스가 다른 인터넷 플랫폼으로 전파된다는 것.

지난 1월 전 세계 주요 팩트체크 조직 80여 곳은 유튜브에게 보낸 공개서한에서 유튜브가 코로나19 가짜뉴스를 전하는 닥터스포더트루스(Doctors for the Truth), 미국 선거 가짜뉴스 등의 통로가 되고 있다고 지적했다. 독일에서 시작한 조직 닥터스포더트루수는 여러 나라로 퍼진 국제적인 움직임으로, 이들은 코로나19의 위험성은 허구라며 백신 접종을 피하라고 주장한다.

유튜브 알고리즘을 분석한 연구에 따르면, 유튜브 알고리즘은 가짜뉴스나 성적인 영상을 충분히 걸러내지 못하는 것으로 나타났다. 사람들로부터 유튜브로 인한 불편한 경험을 뜻하는 유튜브 유감(YouTubeRegrets)콘텐츠를 제보해달라고 요청한 미국의 비영리재단 모질라재단은 총 3만 7380개의 사례를 분석한 뒤 관련 보고서를 냈다. 유튜브 유감은 성적인 내용이나 허위주장을 담은 영상처럼 이용자를 불쾌하게 하는 콘텐츠다. 다만, 재단에서 영상을 제보받을 때 무엇이 ‘유튜브 유감’에 속하는지 지침을 제공한 것은 아니라 제보자의 주관적인 분류에 가깝다.

보고서에 따르면, 사람들이 제보한 유튜브 유감 콘텐츠의 71%는 유튜브 알고리즘으로 추천된 것이었다. 또한, 알고리즘이 추천한 영상이 ‘유튜브 유감에’ 속하는 경우가 일반 검색에 비해 40% 더 많았다. 보고서는 “유튜브가 추천한 영상 중엔 그들의 영상 가이드라인을 실제로 위반하는 것들이 있으며, 사람들이 보고한 영상 중 많은 것이 경계 콘텐츠(실질적으로 규정을 위반하지는 않은 콘텐츠)였다”고 분석했다. 알고리즘을 통해 추천됐지만 이후로 유튜브가 삭제한 영상은 2021년 6월 기준으로 189건에 달했고, 이에 대한 이유도 공개되지 않았다.

또한, 유튜브 알고리즘에 의한 피해는 언어권에 따라 다른 것으로 조사됐다. 세계적인 인터넷 플랫폼은 영어 데이터를 통한 학습에 집중하기 때문에, 영어권 국가에서 알고리즘이 더 정교하게 작동할 수박에 없다. 보고서는 “유튜브 유감 콘텐츠는 비영어권 국가에서 60% 더 많았다”고 지적했다. 국가별로 콘텐츠 관리 기술과 모더레이터 인력에 차이가 있는지를 구글 코리아에 문의했지만, 아직 이에 대한 답을 받지 못했다. 다만, 유튜브 측은 모질라 보고서에선 ‘유튜브 유감’에 대한 명확한 정의가 없다는 것, 제보된 일부 동영상만으로는 결론을 내리기 어렵다고 보는 것으로 알려졌다.

국내에선 유튜브의 알고리즘 추천이 상당히 단순하게 작동한다는 연구도 있다. 33만 4425개의 추천영상을 분석한 한국언론진흥재단의 보고서 ‘유튜브 추천 알고리즘과 저널리즘’은 “이념적 성향에 따른 추천 결과에 있어 유의미한 차이를 발견하지 못했다”면서 “한국어라는 점을 전제할 때 유튜브 추천 알고리즘은 키워드 맥락성을 고려하지 못하고 단순히 제목의 일치 등으로 영상을 추천한다는 분석이 가능하다”고 했다. 이는 유튜브로 인해 한쪽 성향의 콘텐츠만 추천받는 기제가 국내에선 다소 약할 수 있다는 뜻이다.

가짜뉴스 처벌, ‘무엇을 처벌해야 하는가?’

가짜뉴스에 대한 해결책으로 거론되는 게 유포자를 처벌하는 법이다. 국내엔 가짜뉴스 그 자체를 처벌하는 법은 없다. 타인의 명예를 훼손하는 것처럼 가짜뉴스로 피해가 발생했을 시, 명예훼손이나 공무집행방해죄 등으로 처벌할 수는 있다. 다만, 영상 조회수가 높을 때 나오는 수익이 벌금보다 많고 확정 판결도 오래 걸려서 가짜뉴스 생산을 멈추지 않는 유튜버가 많다.

국내에서도 가짜뉴스 처벌법을 제정해야 한다는 여론이 힘을 얻고 있지만, 법 도입 전에 짚고 넘어가야 할 쟁점들이 있다. 오픈넷의 손지원 변호사는 “가짜뉴스 법안은 대체로 가짜뉴스 정의를 불명확하게 한다”고 지적한다. 가짜뉴스는 ‘정치적, 경제적 이익을 위하여’여 전파하는 ‘거짓 또는 왜곡된 사실’로, 이를 ‘언론보도’로 오인할 수도 있다고 정의된다. 하지만, 이러한 정의에서 벗어난 표현을 찾는 게 더 어렵다. 헌법은 법률을 명확한 용어로 규정하고, 적용 대상자에게는 행동지침을, 법 집행자에겐 객관적인 판단지침을 제공해야 한다. 이러한 명확성의 법칙을 위반해 지나치게 포괄적으로 콘텐츠를 규제하면 위헌적 법안이 될 수 있다는 게 손 변호사의 주장이다.

가짜뉴스 처벌에 반대하는 측은 “검열은 표현의 자유를 위축해, 사람들이 의견과 사상을 표현하는 것을 막는다”고 주장한다. 무엇이 금지되는지 명확하지 않다면 사람들은 표현 자체를 망설이게 된다. 진실과 허위의 구분도 명확하지 않다는 게 문제다. 일반적으로, 누군가가 주장을 할 때 충분한 근거를 제시하지 못하면 이는 사실로 인정받지 못한다. ‘허위성’이라는 기준만으로 처벌하기 어려운 이유다. 팩트체킹 서비스가 ‘사실’ ‘거짓’ 이분법적 척도가 아닌, ‘완전한 사실’, ‘대부분 사실’, ‘절반의 사실’, ‘대부분 거짓’, ‘새빨간 거짓’과 같은 5점 척도를 사용하는 이유도 이 둘을 명확하게 가르기 어렵기 때문이다. ‘모든 정치인은 거짓말쟁이다’라는 정치적 풍자는 사실에 속할까 허위에 속할까? 유머, 풍자도 가짜뉴스로 규정하면 표현의 자유는 심각하게 위축된다는 지적이 나온다.

사실과 허위를 구분할 주체를 누구에게 맡겨야 하는지도 문제다. 정부기관이 이 역할을 맡으면 검열이 심화할 것이란 우려가 나온다. 손지원 변호사는 “법원 판결도 어떠한 사실이 명백하게 허위라거나 피고인의 범죄사실에 대해 결백을 보장하는 것은 아니며, 시간이 지남에 따라 법원 판결과 다른 사실이 드러나는 경우는 상당히 자주 일어난다”고 설명했다.

해외 사례를 보더라도 가짜뉴스를 직접적으로 처벌하는 경우는 드물다. 독일은 네트워크 집행법을 제정했지만, 이는 가짜뉴스가 아니라 혐오표현에 대한 처벌법이다. 특정 집단에 대한 차별과 폭력을 선동하는 표현을 규제하려는 목적으로 만들어졌다. 프랑스도 선거기간 투표에 영향을 미칠 수 있는 허위정보가 고의로, 대량으로 유포되면 판사가 명령으로 이를 중지시키는 정보조작대처법이 통과됐다. 이 법안 역시 표현의 자유를 침해한다는 비판을 받는다.

진실을 통해서 가짜뉴스를 막는다

가짜뉴스에 대한 민주적인 해결책으로 제시되는 게 시민단체와 언론의 팩트체크다. 다양한 경험적인 연구에 의해서 팩트체크가 가짜뉴스 퇴치에 효과가 있다는 것은 입증됐다. 다만, 팩트체크가 항상 효과가 있는 건 아니다. 미국의 한 연구에 따르면, 대량살상 무기나 세금인하 같은 주제에선 팩트체크를 제시할 때 잘못된 믿음이 강화되기도 했다. 사람들은 올바른 정보를 제시해도 이미 믿고 있던 정보를 믿으려는 특성이 있기 때문이다. 전문가들은 보수성향인 사람은 보수매체의 팩트체크를, 진보성향인 사람은 진보매체의 팩트체크를 더 믿는 경향도 있다고 말한다.

한국언론학보의 ‘가짜뉴스에 대한 인식과 팩트체크 효과 연구’의 저자 염정윤과 정세훈은 “팩트체크엔 근거가 제시되는 게 중요하다”고 강조했다. 이들은 446명의 실험참가자에게 팩트체크 근거를 제시하는 ‘강한 주장’과 근거를 제시하지 않는 ‘약한 주장’을 제시했다. 연구 결과, 근거를 제시한 강한 주장은 참가자의 기존 의견과 관계없이 설득효과가 높게 나타났다. 또한, 비우호적이라고 여겼던 정보원이더라도 팩트체크 근거를 제시하면 이에 대한 긍정적인 평가가 증가했고, 우호적인 정보원이 적절한 근거를 제시하지 않았으면 팩트체크에 대한 평가가 낮아졌다.

유사한 연구를 진행한 Ullrich K. H. Ecker 연구팀의 ‘The effectiveness of short-format refutational fact-checks(짧은 형식의 팩트체크의 효과)’ 보고서는 “해당 주장을 언급하면서 (근거를 제공하지 않고) 가짜라고 표시하기만 하는 팩트체크도 잘못된 주장에 대한 믿음을 낮춘다”면서 “자세한 근거가 제시된 경우 더 오랫동안 기억에 남는 걸로 확인됐다”고 전했다. 두 연구 결과를 종합해보면, 자세한 근거가 제시된 팩트체크가 더 효율적이라는 것을 알 수 있다.

일각에선 팩트체크도 편향적이라는 비판이 제기된다. 언론사 주도의 팩트체킹은 해당 언론사의 정치적 성향을 답습한다는 것이다. 전문가들은 편향성에서 벗어나기 위해서 팩트체크는 근거자료와 원문출처 표기 등을 확실히 해 투명성을 확보해야 한다고 말한다. 팩트체크에 대한 자유로운 반론제기와 문제 발생 시 재검증이 필수적이라고 말하는 전문가도 있다.

인터넷 플랫폼들이 팩트체크에 기여할 여지도 충분히 있다. 메타는(구 페이스북) 세계보건기구 의료 전문가의 자문을 받아 코로나19에 대한 허위정보 리스트를 만들고, 페이스북과 인스타그램에 이 내용이 게시되면 삭제하고 있다. 또한, 플랫폼에 허위정보로 의심되는 코로나19 관련 게시글을 IFCN 인증(signatory) 팩트체크 기관들이 팩트체크했다면, 이용자들 이 팩트체크를 함께 볼 수 있도록 한다. 일부 SNS 플랫폼에는 유명인사의 진짜 계정에 특정 마크를 표시하는 기능이 있는데, 이를 믿을 만한 기관과 전문가에도 적용해 공신력 있는 출처를 널리 알려야 한다는 주장도 제기된다.

우울한 얼굴을 한 여자아이, 출처=Inoculation science lab 유튜브

최근엔 가짜뉴스에 노출되기 전 교육과정에서 가짜뉴스를 먼저 보여주는 사전폭로(pre-bunking)에 대한 연구도 활발하다. 이는 백신을 맞아 바이러스에 대한 항체를 생성하는 원리와 같다. 사람들의 분노, 슬픔처럼 강한 감정을 끌어내는 수사 표현과 기술을 미리 체험해보도록 하는 것이다. Inoculation science lab에서 제작한 사전폭로 영상은 초반부엔 우울한 얼굴의 여자아이 사진과 함께 “이 영상은 곧 당신을 울게 할 것”이라는 음성이 나온다. 이어, “인터넷에선 영상의 초반부처럼 감정적인 언어로 사람들을 자극하는 콘텐츠를 많이 보게 된다”는 내레이션이 들리며, 허위정보에 사용되는 기술들이 소개된다.

사전폭로 기법을 적용한 게임, 출처=Inoculation science lab

Inoculation science lab에선 사전폭로와 관련된 게임도 할 수 있다. 게임을 체험해보니, 유명인사인 것처럼 SNS 계정을 만드는 것부터 시작해, 가짜 미디어를 만들어 가짜뉴스를 올리는 것 등과 관련된 내용이 진행됐다. 위 사진에 나오는 “과학자들은 당장 비를 예측하지도 못하면서 환경위기가 오고 있다고 주장한다”는 밈과 “비타민 C는 방사성폐기물을 포함한다!”는 가짜뉴스는 게임 속 가짜 미디어가 트위터에 올린 내용이다. 게임이 끝나면 이후로 어떠한 조작방식이 활용됐는지 설명이 나온다.

감정을 자극하는 표현, 음모론, 다른 사람을 화나게 하는 온라인 트롤링, 특정인 비난 등의 전략을 활용한 사전폭로가 가짜뉴스 퇴치에 효과가 있다는 것은 여러 연구에 의해 입증되고 있다. 전문가들은 사전폭로를 접목한 게임이나 영상을 정부나 교육기관, 플랫폼 기업에서 적극적으로 활용해야 한다고 조언한다.

정보의 진위를 스스로 판단할 수 있는 능력을 기른다

팩트체크를 활성화하는 것과 더불어 시민들이 스스로 가짜뉴스를 걸러낼 수 있는 능력을 키워야 한다는 주장도 제기된다. 이를 위한 것이 미디어 리터러시 교육이다. 미디어 리터러시란 사람들이 가짜뉴스를 비판적으로 받아들이는 역량을 말한다. 미디어 리터러시 수업을 통해서 정보의 출처를 평가하고, 사실을 따지는 방법을 배울 수 있다.

미디어 리터러시 교육으로 유명한 나라인 핀란드는 유럽 35개국 중 뉴미디어 리터러시 조사에서 가장 높은 점수를 받은 나라다. 러시아로부터 독립한 이후, 러시아의 프로파간다가 사회의 통합성을 해친다는 것을 일찍부터 깨달은 핀란드는 미디어 리터러시 교육에 힘써왔다.

핀란드 학생들은 SNS에서 조작되거나 편향적인 정보를 발견하고 비판적으로 수용하는 스킬들을 배운다. 수업시간에 특정 웹사이트를 평가하고 정보들을 팩트체크하거나, 문제가 있는 뉴스를 찾아 정보 출처를 검토하는 등의 활동이 진행되는 것. A 나라의 미디어가 옆 나라 사람을 어떻게 묘사하는지, 학생은 그 기사의 정보 중 무엇을 믿는지 스스로 검토하거나 ‘소셜 미디어 버블’ 같은 개념을 확인하고 친구들과 이에 대해 토론을 하기도 한다. 교사들은 미디어 정보의 출처를 판단할 때 ‘누가 텍스트나 영상을 만들었는지?’ ‘어떤 의도로 만들었는지?’ 등을 질문하라고 학생에게 가르친다.

미디어 교육은 여러 과목에서 함께 진행된다. 수학시간에는 통계조차도 쉽게 조작이 되는 걸 가르치고, 미술 시간에는 아이들이 직접 샴푸 광고를 제작한다. 샴푸 광고를 만들면서, 샴푸를 실제로 사용할 땐 TV광고 속 이미지처럼 부드럽고 윤택이 나는 머릿결이 나오지 않는다는 걸 배우는 것이다. 역사시간에는 어떤 프로파간다가 과거부터 사용됐는지 확인하고, 과학시간에는 백신의 가짜뉴스를 증명하는 시간을 갖는다. 국어시간에는 언어가 불명확한 의미로 쓰이는 방법과 교묘한 언어로 사람들이 속게 되는 방식 등을 배운다.

학생들은 정보를 분석하고 비판하는 것을 넘어서 자신의 의견을 정리하고 이를 발표하는 훈련도 한다. 고학년 학생들은 웹사이트나 비디오 등 미디어를 만들거나, 직접 기사를 제작하기도 한다. 지역사회와 언론사가 협력해 뉴스 제작을 지원한다. NGO 단체들은 학생들을 돕기 위해서 투표를 위한 리터러시 도구 등을 제작해 배포한다. 핀란드의 미디어 리터러시 교육은 학생들만 배우는 것이 아니다. 전 생애에 걸쳐서 배움이 가능한 시스템이 구축되도록 학교, 도서관, 정부기관, 대학, NGO에서 미디어 교육 프로그램을 제공하고 있다.

국내에선 미디어 리터러시 수업이 정규교과과정에 포함되지 않은 상태지만, 2025년 교육과정에 반영되는 2022년 개정 교육과정에선 모든 교과와 연계되는 미디어 리터러시 수업이 제공될 예정이다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

이 기사에 대해 어떻게 생각하시나요?

IT동아에서 직접 확인하세요. 해당 언론사로 이동합니다.

IT/과학