AI에 속은 언론사들… 존재하지 않는 책 추천했다

[AI 미디어 파도] '2025년 여름 추천도서' 기사, AI가 책 제목 지어내 추천

[미디어오늘 금준경 기자]

▲ 사진=gettyimagesbank

미국 언론사들이 인공지능(AI)에 속아 존재하지 않는 책을 추천했다. AI가 사실과 다른 답변을 하는 환각현상 문제가 반복되고 있다.

미국 언론 시카고 선타임스와 필라델피아 인콰이어러가 최근 게재한 여름특집 섹션에 나온 추천도서 대부분이 허위였다. 시카고 선타임스의 지난달 18일(현지시간) '2025년 여름 추천도서' 기사에 나온 추천도서 15권 중 실제 존재하는 책은 5권 뿐이었다. 나머지 10권은 AI가 그럴 듯하게 지어낸 가짜 책이었다. 이사벨 아예데 등 실제 존재하는 작가를 언급하면서도 그가 쓴 적 없는 '타이드워터 드림스'라는 소설을 추천하는 식이다.

이 문제는 404미디어, 뉴욕타임스 등 보도를 통해 알려졌다. 이 섹션을 맡은 프리랜서 필자는 논란이 되자 AI 클로드를 활용해 만든 기사라는 사실을 시인했다. 시카고 선타임스는 직원 20%가 희망퇴직으로 퇴사한 상황이었다.

AI가 쓴 기사가 문제가 된 건 처음이 아니다. 미국 IT매체 씨넷(CNET)은 2022년 금융 서비스에 관한 기사 77건을 AI가 작성한 사실이 밝혀져 논란이 됐다. AI 작성 여부를 투명하게 밝히지 않았을뿐 아니라 이들 기사에 사실관계 오류까지 발견됐다.

2023년 6월14일(현지시간) 아일랜드 일간지 아이리시타임스는 AI 작성한 것으로 보이는 독자 기고글로 올렸다가 논란이 되자 삭제하고 사과했다. 아이리시타임스는 편집자 칼럼을 통해 “신문이 정교한 사기에 희생양이 됐다”며 “기고문과 첨부된 사진이 적어도 부분적으로는 생성형 인공지능 기술로 만들어졌을 가능성이 있다”고 했다.

이는 언론만의 문제는 아니다.생성형 AI가 학교 과제나 업무에 활용되고 있지만 사실과 다른 답변을 하는 환각현상 문제가 있어 정보검색 용도에는 부적절한 면이 있다. 사실관계가 다른 내용을 포함하거나, 존재하지 않는 고유명사를 제시하거나, 존재하지 않는 기사 제목이나 링크를 제시하는 식이다.

미국 컬럼비아대학원 컬럼비아저널리즘리뷰가 지난 3월6일(현지시간) 공개한 연구에 따르면 20개 언론의 기사에서 발췌한 내용을 물으며 해당 기사의 제목, 출처, 발행일, URL 등을 묻는 식으로 1600건을 검색한 결과 60% 이상이 잘못된 답을 냈다. 잘못된 출처를 제시하거나 존재하지 않는 주소를 만들어내는 식이다. 2023년 챗GPT가 '세종대왕의 맥북 던짐 사건'이 조선왕조실록에 기록돼 있다고 답변한 사실이 국내에서 화제가 되기도 했다.

컴럼비아저널리즘리뷰 조사 결과 응답자의 25%가 기존 검색엔진 대신 AI를 사용해 정보를 검색한다고 했다. 세계 점유율 1위 검색엔진 구글은 검색 결과에 인공지능 답변을 우선 제공한다. 국내에선 네이버가 생성형 AI검색 서비스를 선보였다.

지난달 29일 방송통신위원회와 정보통신정책연구원이 발표한 '지능정보사회 이용자 패널조사'에 따르면 지난해 기준 응답자의 24%가 생성형 AI 사용 경험이 있다고 답변했다. 전년 대비 2배에 달하는 11.7%p 늘어난 수치다.