사람보다 인공지능의 팩트체크가 더 효과적일 수 있는 이유

[글로벌팩트10] 세계 최대 팩트체크 컨퍼런스, 코엑스 열려
기조연설 맡은 이은주 교수 "AI가 팩트체크할 때 확증편향 완화"
"팩트체크 결과 명시적 드러낼 때 확증편향 강화될 수도"

[미디어오늘 박재령 기자]

인공지능(AI)이 기사 작성의 주체로 떠오르는 가운데 AI의 팩트체크가 사람들의 확증편향(기존에 가진 생각이나 신념을 확인하려는 경향성)을 완화시킬 수 있다는 연구 결과가 나왔다. 개인이나 매체의 정치적 성향이 개입할 수 있는 사람보다 AI가 팩트체크했을 경우 수용자 반발이 덜하다는 것이다. 또한 팩트체크 결과를 기사에 명시하지 않는 것이 수용자로부터 팩트체크 과정을 따라오게 해 더 효과적일 수 있다는 주장이 나왔다.

▲ 지난 28일 서울 코엑스에서 열린 '글로벌팩트10'에서 기조발언 하고 있는 이은주 서울대 교수. Photo Credit: The Poynter Institute and the IFCN

지난 28일 서울 코엑스에서 서울대 언론정보연구소 SNU팩트체크센터와 국제팩트체킹연맹(IFCN)이 주최한 '글로벌팩트10'이 열렸다. 글로벌팩트10은 2014년 시작된 세계 최대 팩트체크 컨퍼런스로 60개국 이상의 팩트체커들이 참여한다. 이은주 서울대 언론정보학과 교수는 '허위정보 대응'을 주제로 한 기조연설에서 “전문가 혹은 시민들이 팩트체크할 때보다 인공지능이 팩트체크할 때 확증편향이 부분적으로 완화된다”고 했다.

해당 연구는 팩트체크 주체를 전문가, 시민들(크라우드소싱), AI로 나누고, 팩트체크 결과를 친정부, 반정부로 나눴다. 응답자는 정치 성향에 따라 진보 혹은 보수주의자로 분류됐다. 문재인 정부 때 연구가 이뤄졌기 때문에 진보주의자는 친정부 결과와 조화, 반정부 결과와 부조화한다고 가정했다.

▲ 성향과 반대되는 팩트체크 결과에 대해 느끼는 공유 의사(Sharing Intention)와 관련성(Personal Relevance) 모두 팩트체크 주체가 인공지능일 때 높게 나왔다. 출처=이은주 교수 발제자료

연구 결과 인공지능이 팩트체크할 때 확증편향이 다소 줄어들었다. 특히 팩트체크 결과가 자신의 신념과 '부조화'할 때 이런 현상이 두드러졌다. 성향과 반대되는 팩트체크 결과에 대해 느끼는 공유 의사(Sharing Intention)와 개인적 관련성(Personal Relevance) 모두 팩트체크 주체가 인공지능일 때 높게 나온 것이다. 이은주 교수는 “메시지가 마음에 들지 않을 때 누가 팩트체크를 했는지 사람들이 집중하는 것”이라며 “메시지를 좋아하는 경우엔 메시지 출처를 중요하게 생각하지 않는다”고 말했다.

반면 전문가에 대한 확증편향은 강하게 나타났다. 결과와 신념이 부조화할 때 공유 의사와 개인적 관련성 모두 전문가 팩트체크에서 가장 낮았지만 팩트체크 결과와 신념이 일치할 때는 두 지표 모두 큰 폭 상승했다. 즉, 팩트체크 결과가 마음에 들지 않을 때는 전문가 팩트체크에 강하게 반발했고, 마음에 들 때는 강하게 받아들인 것이다. 이은주 교수는 확증 편향이 팩트체크 주체가 전문가, 시민들, AI순으로 나타난다고 봤다.

▲ 팩트체크 결과를 명시하는 것이 확증편향을 심화시킬 수 있다는주장도 나왔다. 팩트체크 결과가 자신의 신념과 반대될 때 사람들은 명시적 팩트체크 결과에 대해 정확성을 의심했다. 출처=이은주 교수 발제자료.

팩트체크 결과를 명시하는 것이 확증편향을 심화시킬 수 있다는 주장도 나왔다. 오히려 팩트체크 결과를 가리면 수용자들이 미리 단정 짓지 않고 팩트체크 과정을 따라와 미디어리터러시에 도움이 된다는 것이다.

연구에 따르면 팩트체크 결과를 암시적으로 드러냈을 때는 팩트체크 결과가 자신의 신념과 일치하든 아니든, 결과를 받아들이는 데에 있어 큰 차이가 없었다. 하지만 팩트체크 결과가 '거짓'이라고 기사에 드러나면 사람들은 신념에 따라 정확성을 의심했다. 개인이 느끼는 공유 의사, 이슈 중요도 등에서도 같은 결과가 나왔다.

허위정보의 문제가 전세계적으로 대두되는 상황에서, 개인이 유념해야 하는 건 무엇일까. 이 교수는 “내가 아는 것은 단 하나, 아는 게 아무것도 없다는 것”이라고 말한 소크라테스를 인용하며 각자의 미디어 습관을 따져봐야 한다고 지적했다. 이 교수는 “너무 성급하게 인지적 결단을 하지 않는 게 중요하다. 기자, 시민도 모두 잘못된 판단을 할 수 있다. 팩트가 바뀌면 의견 바꿀 준비가 돼있어야 한다”고 말했다. 이어 기자들에게 “허위정보를 믿지 않도록 하는 거에만 집중하기 쉽지만 사람들이 진실을 믿지 않는 것도 중요하다”며 “좋은 기사가 어떻게 잘 전달될 수 있을지 고민이 필요하다”고 말했다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]