AI가 찍어내는 뉴스 사이트 범람… 검색 방해할 정도

가짜·복제 뉴스 자동으로 생산
사람 안쓰고도 광고수익 올려

구글 검색 화면 /AP 연합뉴스

챗GPT 등 생성 AI가 만든 가짜 뉴스·가짜 블로그 글들이 확산되고 있다. 게다가 이런 스팸 사이트들이 구글·빙과 같은 검색 엔진에서 전혀 걸러지지 않고 검색 결과로 노출되면서, 인터넷 정보 신뢰도가 크게 떨어지고 있는 것으로 나타났다.

최근 미국 뉴스 신뢰도 평가 기관인 뉴스가드는 4월 한 달여간 영어·프랑스어·중국어 등 7개 언어에 걸쳐 뉴스 웹사이트를 조사한 결과 ‘전적으로 AI가 생성한 것으로 추정되는 웹사이트’ 49개를 발견했다. 뉴스가드는 “이러한 웹사이트는 ‘마켓뉴스리포트’ 등 그럴듯한 이름을 걸고 정치·경제·건강 등 다양한 분야에서 하루 수백개씩 기사를 양산하고 있다”며 “검색을 통해 유입된 사용자들로부터 광고 수익을 내기 위한 스팸 사이트”라고 밝혔다.

스팸 사이트는 인간의 언어를 모사하는 AI가 CNN과 같은 주요 매체 기사를 변주하도록 했다. AI는 가짜 뉴스도 만들어냈는데, 지난 4월 초 한 스팸 사이트는 “조 바이든 미국 대통령이 사망했다”는 가짜 뉴스를 걸기도 했다. 웹서핑을 하는 이용자들이 이런 스팸 사이트를 직접 주소를 입력해 찾아가진 않지만, 구글·빙 등 검색엔진에서 이슈를 검색한 사용자가 들어오게 하거나 페이스북·트위터에 자극적인 AI 뉴스를 퍼나르면서 사람들을 끌어모았다. 이렇게 쌓인 접속자는 해당 업체들의 광고 수익으로 이어졌다.

미국에서는 생성 AI가 만든 가짜 뉴스·블로그 등 텍스트 콘텐츠가 증가하면서 구글 검색 품질이 크게 떨어지고 있다는 지적이 꾸준히 제기되고 있다. 검색 엔진 전문 미디어 서치엔진랜드에 따르면 구글 내부에서도 챗GPT가 등장하기 전인 2020년, AI가 만든 가짜 콘텐츠가 급격히 증가하고 있다는 보고서를 만들었다. 심지어 수많은 홈페이지가 활용하는 구글 네트워크 광고에 스팸 사이트 홍보 광고까지 등장하고 있다.

업계 관계자는 “AI가 제작한 가짜 블로그 및 뉴스가 포털 검색·광고 등을 통해 걸러지지 않고 빠르게 유통되고 있지만 검색 포털들은 제대로 손을 쓰지 않고 있다”며 “AI를 걸러내는 기술이 따라가질 못하는 데다, 막을 의지도 부족한 것 같다”고 지적했다.