[표지로 읽는 과학] AI에 설득당하는 음모론자…"음모론 믿음 20% 감소"

Science 제공

음모론(Conspiracy)은 어떤 사건·현상에 대해 비밀스럽고 악의적인 조직이 있다는 믿음이다. 미국 정부가 외계인 시체를 숨겨놨다는 소문 등이 해당된다. 음모론과 음모론을 믿는 사람들은 사회에 혼란과 위협을 줄 수 있어 이를 해결하려는 노력과 개입이 이뤄지고 있지만 제대로 효과를 거두지 못하는 상황이다.

이번 주 국제학술지 '사이언스' 표지에는 인공지능(AI) 언어 모델과의 대화가 음모론자들의 믿음 수준을 크게 줄일 수 있다는 연구결과가 실렸다. 

토마스 코스텔로 미국 아메리칸대 심리학과 교수팀이 생성형 AI 모델과의 짧은 대화만으로도 음모론적 신념이 깊게 자리 잡은 사람의 믿음을 감소시킬 수 있다는 연구결과를 13일 사이언스에 발표했다.

선행 연구결과에 따르면 음모론은 사람들이 근본적인 심리적 욕구나 동기를 충족시키기 위해 받아들이기 때문에 이를 믿는 음모론자들은 사실이나 반증을 통해 믿음을 버리기 어려운 것으로 알려졌다.

연구팀은 사실에 기반한 기존 개입은 '개인화'가 부족하기 때문에 효과가 없을 수도 있다는 가설을 세우고 대규모 언어모델(LLM)을 통해 음모론자들을 설득하는 실험을 진행했다.

AI 챗봇과 음모론에 대해서 대화할 수 있는 웹사이트(debunkbot.com). debunkbot 홈페이지 캡처

연구팀은 고성능 LLM인 'GPT-4 터보' 기반으로 AI 챗봇이 음모론 신자들이 제시하는 특정 증거에 따라 방대한 정보를 바탕으로 맞춤형 반론을 제기하도록 했다. 음모론을 믿는 미국인 2190명을 대상으로 진행한 실험에서 참가자들은 챗봇에 자신의 음모론 신념과 이를 뒷받침한다고 생각하는 증거를 사전에 공유하고 평균 8.4분 동안 세 차례 대화를 진행했다. 대조군에서는 음모론과 관련 없는 주제에 대해 토론했다.

실험 결과 참가자들은 자신이 믿는 음모론에 대해 평균 20% 믿음이 감소했다. 과거 미국 대통령인 존 F. 케네디를 미국 정보기관인 CIA가 암살했다거나 비밀 단체인 일루미나티(Illuminati)가 존재한다는 전통적인 음모론부터 2020년 미국 대선과 신종 코로나바이러스감염증(코로나19) 관련 최신 음모론 등 광범위한 범위에서 일관된 효과를 보였다. 효과는 최소 2개월 동안 지속됐다.

챗봇이 제기한 주장 128개에 대해 전문가가 팩트 체크한 결과 99.2%가 사실이고 0.8%는 오해의 소지가 있으며 거짓은 없는 것으로 나타났다. 연구팀은 "음모론을 강력하게 믿는 사람들도 설득력 있는 증거를 제시하면 마음을 바꿀 수 있다"며 "연구결과가 LLM의 설득력을 실제로 입증한 것"이라고 말했다.

논문의 공동 저자인 데이비드 랜드 미국 매사추세츠공대(MIT) 슬론 경영대학원 교수는 "생성형 AI가 가짜 뉴스를 강화할 수 있다는 연구가 많이 진행됐지만 이번 연구는 반대로 해결책이 될 수 있음을 보여준다"며 "대규모 언어 모델이 대규모 음모에 대응할 잠재력을 가지고 있다"고 전했다.

웹페이지(debunkbot.com)에 접속하면 누구나 연구팀이 개발한 AI 챗봇과 대화를 나눠볼 수 있다.

<참고 자료>
- doi.org/10.1126/science.adq1814

[이병구 기자 2bottle9@donga.com]