[팽동현의 테크픽] AI가 부풀리는 편향, 기울어지는 인터넷 세상

스탠퍼드대, ‘AI 아첨’ 연구결과 공개

제미나이가 그린 일러스트.

챗GPT나 제미나이 등 생성형 인공지능(AI)을 이용하는 저변이 점차 확대되면서 AI 일상화가 머지않은 것처럼 여겨지는 요즘이다. 하지만 사회 곳곳에서 다양한 이유로 나뉘며 불거져온 갈등은 양 극단으로 흘러가는 모습이다. 우리뿐 아니라 세계적으로도 이런 흐름이 가속화되는 가운데, 새 시대의 동력인 AI가 이런 현상을 심화시킬 수도 있다는 우려가 제기된다.

30일 AI 업계에 따르면 최근 미국 스탠퍼드대 연구진은 주요 AI 모델 11개를 이용해 AI의 아첨(sycophancy) 수준과 그 영향에 대해 연구한 결과를 사이언스지에 게재했다. 생성형AI가 사용자의 생각과 행동에 무비판적으로 긍정함으로써 발생하는 편향과 그 여파를 실험으로 입증했다.

이 연구에 따르면 생성형 AI들은 사용자의 언행에 대해 인간보다 평균 49% 더 자주 정당화했다. 기만이나 불법행위를 기술한 경우에도 AI는 평균 47%의 비율로 사용자를 지지했다. 레딧커뮤니티의 대인관계 갈등 게시판에서 아무도 공감하지 않았던 내용에도 AI는 51%가 사용자 편을 들었다.

이런 아첨이 실제로 사용자에 영향을 끼친다는 점도 확인됐다. 실험 참가자들이 가상의 갈등 상황에서 자신이 더 옳다고 믿는 정도가 62% 커졌고, 사과하거나 관계를 수습하려는 의향은 28% 줄었다. AI와의 대화 한 번만으로 자기 정당화가 25% 증가하고 관계회복 의지는 10% 감소하기도 했다. 외려 참가자들은 아첨하는 AI의 품질을 더 높게 평가하고 더 많이 사용하려는 경향도 보였다.

이번 연구에 앞서 AI 에이전트들의 소셜네트워크로 올해 초 화제가 됐던 '몰트북'은 이런 문제를 더욱 키울 소지도 있다. AI 에이전트들의 상호작용뿐 아니라 공유 메모리로도 활용될 수 있는 이곳에서 편향·왜곡이 갈수록 확대·확산될 수 있기 때문이다. 이미 전 세계 트래픽의 절반이 봇이란 집계를 바탕으로 '죽은 인터넷' 관련 주장도 나오는 가운데, AI 시대 인터넷과 미디어가 더욱 편향과 왜곡으로 점철될지도 모른다는 우려가 커진다.

하지만 이런 문제의 근본적 원인을 생성형AI에만 돌리는 것은 적절치 않을 수도 있다. 기존 미디어 환경도 전통적인 매체와 소셜미디어를 막론하고 기울어져 있지 않다고는 할 수 없기 때문이다. 독자·소비자들의 입맛에 맞는 내용을 전달하는 게 수익성으로 이어진다는 점은 이미 전문적인 연구들을 통해 입증됐고, 세계적으로 이런 흐름이 만연한 것도 부인하기 어렵다. 생성형AI는 그대로 옮겼을 뿐이다.

다만, 이대로라면 AI 시대에는 이런 '보고 싶은 것만 보고, 듣고 싶은 것만 듣는' 세태가 심화될 수도 있다. 결국 받아들이는 사람이 이를 걸러낼 수 있어야 한다. 여기엔 AI 리터러시 또한 필수적으로 갖춰야 할 역량이 될 것이다.

박한우 영남대 미디어커뮤니케이션학과 교수는 사이언스미디어센터(SMC)를 통해 "이젠 AI 리터러시 교육을 통해 에이전트가 무조건적인 동조가 아닌, 갈등 해결을 위한 화해와 책임 있는 자세를 제안하도록 가르쳐야 한다"며 "그렇지 않으면 이용자들은 나에게만 달콤한 답변을 내놓는 AI를 더 신뢰하게 되고, 결과적으로 확증 편향에 빠지거나 AI에 과도하게 의존하는 부작용을 겪게 될 것"이라고 말했다.

팽동현 기자 dhp@dt.co.kr