[인공지능의 두 얼굴] AI허위정보 콘텐츠 '농장'에 대혼란 빠질 수도

[인공지능의 두 얼굴 (07)] 허위정보의 진화
인공지능 작성 뉴스·정보 사이트 49곳에 달해
정교해진 인공지능 생성 이미지·영상, 받아쓰기 뉴스 만나면?

[미디어오늘 금준경, 박서연 기자]

<선거 페이크뉴스가 진짜 뉴스를 페이스북에서 압도했다>. 2016년 버즈피드 기사 제목이다. 이 기사는 전세계적으로 허위정보(가짜뉴스) 문제의 심각성을 일깨우는 계기가 됐다. 2016년 미국 대선 전 3개월 간 가장 인기를 끈 허위정보 20건의 페이스북 내 공유·반응·댓글 수가 미국 주류 언론의 대선 기사 20건을 넘어섰다는 내용이다. <프란치스코 교황이 트럼프 후보를 지지했다> 등의 뉴스가 큰 주목을 받았고, 허위정보를 만드는 사이트들은 '덴버 가디언'처럼 실제 언론사가 연상되는 이름을 썼다.

2023년 챗GPT로 대표되는 생성형 인공지능이 주목 받으면서 허위정보 문제가 새로운 국면을 맞았다. 인공지능이 작성한 뉴스·정보 사이트가 대거 적발됐고, 사진과 영상은 사회 혼란을 야기하고 있다. 뉴욕타임스는 지난 1일(현지시간) 기사를 통해 인공지능의 3대 위협으로 '일자리 축소', '통제불능'과 함께 '허위정보'를 꼽았다.

'새로운 시대 콘텐츠 농장' 적발

미국의 비영리단체 뉴스가드는 지난 1일(현지시간) 거의 전적으로 인공지능이 글을 작성한 것으로 추정되는 뉴스·정보 사이트가 49곳에 달한다고 발표했다. 생성형 인공지능의 발전으로 예상된 문제였으나 생각보다 빨리 보편화됐다. 뉴스가드는 보고서를 통해 “최근 몇 달 동안 수많은 강력한 AI 도구가 공개되면서 뉴스 조직에 전적으로 사용될 수 있다는 학자들의 우려가 현실이 됐다”고 했다.

이들 사이트는 광고 수익을 위해 클릭을 유도하는 기사를 생산하는 과정에서 인공지능을 적극 활용했다. <바이든 사망... 해리스 대통령 권한대행 오전 9시 연설> 기사가 대표적이다. 뉴스가드는 이들 사이트를 가리켜 '새로운 시대의 콘텐츠 농장'이라고 규정했다. 1세대 콘텐츠 농장은 2016년 버즈피드가 지적했던 사람이 작성하는 허위·저질 뉴스 사이트였다.

▲ 한 뉴스 사이트의 인공지능이 작성한 기사 제목 갈무리. 사진=뉴스가드 보고서.

이들 사이트 역시 2016년 논란이 된 허위정보 사이트들처럼 그럴 듯한 이름을 갖고 있다. '뉴스 라이브79', '데일리 비즈니스 포스트', '비즈 브레이킹 뉴스', '마켓 뉴스 리포트' 등이다. 그러나 이들 사이트는 기자를 따로 고용하지 않고 챗GPT나 바드 등 인공지능을 활용해 기사를 작성했다. 이들 기사에는 '인공지능이 작성했다'는 표기를 찾아볼 수 없다.

보고서는 “일부 사이트는 하루에 수백 개의 기사를 올렸다”며 “거의 모든 콘텐츠에 인공지능의 특징인 단조로운 언어와 반복적인 문구가 포함돼 있었다”고 했다. 고든 프로비츠 뉴스가드 CEO는 블룸버그와 인터뷰에서 “인공지능을 사용해 이 같은 일을 저지르는 것은 저널리즘을 가장한 사기 행위”라고 비판했다.

노아 지안시라큐사 벤틀리대학교 부교수는 블룸버그와 인터뷰에서 “예전에는 저임금이었지만 적어도 공짜는 아니었다”며 현재는 무임금으로 콘텐츠 농장을 자동화할 수 있다고 우려했다.

독일 주간지 '악투엘레'는 인공지능을 활용한 '낚시' 인터뷰를 내보내 논란이 됐다. 악투엘레는 지난달 15일 최신호 표지에 미하엘 슈마허의 사진과 함께 '미하엘 슈마허 첫 인터뷰'라는 문구를 썼다. 레이싱 선수였던 미하엘 슈마허는 머리를 심하게 다쳐 치료를 받고 있다. 그러나 인터뷰는 슈마허가 아닌 '캐릭터.ai'라는 이름의 인공지능 프로그램을 활용해 만들었다. 표지에는 '진짜 같았다'는 문구를 작게 명시해 실제 인터뷰가 아니라는 점을 간접적으로 드러냈다. BBC에 따르면 '악투엘레'가 소속된 풍케미디어그룹의 비안카 폴만 이사는 편집장 해고 사실을 알리며 “독자들이 기대하는 저널리즘의 기준을 충족시키지 못했다”고 했다.

딥페이크의 진화

사진과 영상 등을 통한 딥페이크도 위협적인 존재가 되고 있다. 한때 딥페이크 시연 영상은 영상 기술의 발전을 보여주는 '이벤트'처럼 여겨졌으나 최근에는 사회적 혼란이 야기된 사례가 이어지고 있다.

프란치스코 교황이 흰색 패딩을 입고 산책하는 모습을 담은 사진은 SNS에 올라와 전세계적으로 주목을 받았다. 그러나 이 사진은 이미지 생성 AI '미드저니'로 만든 허위정보였다. 도널드 트럼프 전 대통령이 경찰에게 �i기다 체포되는 사진 역시 '미드저니'로 만든 허위정보였다. 미드저니 등 이미지 생성 프로그램들은 특정 상황을 설명하면 이를 이미지로 구현한다. 이들 이미지는 패러디나 풍자 목적으로 만들어졌지만 확산되는 과정에서 사실처럼 믿는 사람들이 생겨났다. 특히 트럼프 대통령 체포 사진은 언론이 팩트체크에 나설 정도였다.

▲교황이 발렌시아가 패딩을 입고 있는 사진. 인공지능 생성 프로그램으로 만들어낸 허위 이미지다.

조 바이든 미국 대통령이 대선 출마를 선언하자 공화당이 인공지능을 활용한 영상으로 응수해 주목 받은 일도 있다. 중국의 대만 침공으로 대만의 랜드마크가 무너지는 모습, 미국 재정 시스템이 붕괴돼 은행이 폐업하는 모습, 수만명의 불법 입국 모습 등을 담으며 곳곳에 인공지능으로 만든 조 바이든 대통령을 배치했다.

인권 단체 국제앰네스티의 인공지능 합성 사진이 논란이 되기도 했다. 엠네스티는 지난 2일(현지시간) 콜롬비아 경찰이 저지른 인권침해에 관한 보고서를 내며 한 여성이 경찰에 연행되는 사진을 올렸다. 이 사진 역시 인공지능 합성으로 만들었다. 사진을 자세히 보면 콜롬비아 국기 색 배치가 사실과 다르고, 경찰복도 현재 쓰지 않는 구식이다.

엠네스티는 논란이 잇따르자 해당 사진을 삭제했다. 가디언에 따르면 에리카 게바라 로사스 앰네스티 미주 국장은 “피해자 지원이나 콜롬비아 내 정의를 요구하는 우리의 핵심 메시지를 훼손할까 우려해 SNS에서 AI 사진을 삭제했다”며 “인공지능 이미지 사용에 대한 외부의 비판을 진지하게 받아들이고 있다”고 했다.

▲ 논란이 된 엠네스티의 인공지능 합성 사진.

인공지능 활용 허위정보가 여러 범죄에 악용될 우려도 있다. 미국 텍사스에선 한 부부의 아들 목소리를 학습한 인공지능에 속은 '보이스피싱' 사례가 나타났다. 현재도 논란이 되는 인공지능 기술 활용 디지털성범죄 기술 역시 더욱 보편화되고 정교해질 수밖에 없다. 이준환 서울대 언론정보학과 교수는 “도널드 트럼프 전 대통령 가짜 정보는 오히려 덜 위험하다. 지하에서 유통되는 정보들이 훨씬 위험하다”며 “최근 인터넷에서 특정 가수와 똑같은 사진을 인공지능이 만들어 주목 받았다. 이런 사진이 지하에서 특정한 의도를 가지고 유포된다면 훨씬 위험할 것 같다”고 했다.

'AI 조작'과 '받아쓰기'의 결합

특히 '취재하지 않는 언론'은 인공지능 기술에 속아 의도치 않은 허위정보를 만들어낼 수도 있다. 최근 영국 매체 데일리메일이 캐나다 출신 배우가 방탄소년단(BTS) 멤버 지민처럼 성형수술을 여러차례 시도했다가 합병증으로 사망했다는 소식을 보도했다.

주목할 점은 이후 한국 언론의 대응이다. 한국에선 30여개 언론이 온라인 기사로 보도했다. 그러나 데일리메일이 인공지능 합성 사진에 속았다는 가능성이 제기됐고 데일리메일은 기사를 삭제했다. YTN과 한국일보 등 일부 매체만 정정보도를 내보냈고 여전히 오보일 가능성이 높은 기사 다수는 포털에 남아 있다.

한국 언론사 온라인 부문에선 데일리메일 등 선정적인 외신이나 인터넷 커뮤니티발 기사를 '주요 소재'로 삼으며 오보를 반복적으로 냈다. 인공지능 생성 이미지와 게시글이 쏟아지는 새로운 환경에선 더욱 심각해질 수밖에 없다. 경제지에서 일하는 한 기자는 “네이버 채널 기준으로 6개 기사가 (언론사별) 메인에 걸린다”며 “데일리메일 같은 자극적 인용 기사가 클릭이 잘 되니 메인에도 잘 걸린다”고 했다.

위기는 현실, 법적 논의 필요

허위정보 문제가 불거질 때마다 언론의 팩트체크, 미디어 리터러시 교육 등이 대안으로 제시된다. 문제는 앞으로는 더욱 허위정보 검증이 까다로워질 수밖에 없다는 사실이다. 아직까지는 인공지능 생성 이미지의 손 모양이 어색하거나, 딥페이크 영상의 입모양이 어색한 등 한계는 있다. 그러나 기술 발전은 시간 문제다.

인공지능 기술 연구의 대부격인 제프리 힌튼 토론토대 교수는 최근 구글을 퇴사하며 인공지능의 위험성을 경고했는데, 허위정보 문제도 언급했다. 그는 “생성형 인공지능으로 인한 가짜 이미지와 텍스트가 너무 많다”며 “진실과 거짓을 구분하지 못하게 될 수 있다는 점이 두렵다”고 했다.

▲미국 공화당의 인공지능 합성 영상

인공지능이 만든 허위 글이 인터넷 곳곳에 퍼지고 진짜보다 진짜같은 영상 허위정보가 쏟아지면 무엇이 진실인지 파악하기 어려워질 수밖에 없다. 이는 단순히 '허위'를 '진짜'처럼 여긴다는 것뿐만 아니라 자신의 성향에 맞지 않는 '진짜'를 보고서도 '허위'라 생각할 수 있는 우려도 있다. 뉴욕타임스 기사에 따르면 앨런인공지능연구소 설립자 오렌 에치오니 박사는 인공지능 허위정보 문제가 '가설'이 아닌 실제 상황이라고 지적하며 “규제와 법률이 필요할 수 있다”고 했다.

세계 각국에선 규제론적 접근이 이뤄지고 있다. 허위정보 그 자체에 대한 대응이라기보다는 인공지능 정보의 기만을 막는 데 초점을 맞췄다.

유럽에선 '디지털서비스법'을 통해 구글, 페이스북 등 빅테크 기업을 규제하는 방안을 논의하고 있다. 새 규정에 따르면 규제 적용을 받는 사업자들은 주기적으로 허위정보 확산에 대한 위험 요인을 분석하고 완화 조치를 마련해야 한다. 특히 인공지능이 만든 이미지는 인공지능 활용 여부를 명시하는 방안을 논의하고 있다. 최근 틱톡은 인공지능 제작 영상에 인공지능 활용 여부를 표기하는 가이드라인 개정안을 마련했다.

미국의 연방거래위원회(FTC) 등 4개 기관은 지난달 바이든 대통령에게 제출할 AI 규제 관련 건의서를 논의했다. 건의서는 인공지능이 생성하는 허위 이미지나 편견에 대응할 있는 연방 정부 차원의 '최고 AI 책임자' 신설을 제안하는 등 대책을 논의하는 내용이다. 뉴욕타임스는 “빅테크 등 인공지능 선도 업체들이 페이크뉴스 전파의 도구로 쓰여 공론장을 파괴하는 등 각종 문제에 따른 대처”라고 설명했다.

미국 공화당의 인공지능 합성 영상이 반향을 일으키자 민주당 소속 이베트 클라크 뉴욕 상원의원은 모든 정치광고에 인공지능 활용 여부를 명시하는 법안을 공개해 맞섰다. 그는 ”유권자들을 대거 속이고 조작이 가능하다면 국가 안보 뿐만 아니라 선거 안전에도 치명적인 결과를 낳을 것”이라고 우려했다.

한국 정부는 디지털 기술 발전에 따른 저작권 침해, 딥페이크에 따른 허위정보 등에 대응하는 '디지털 권리장전'을 마련해 오는 9월 공개할 계획이다. 지난해 중앙선거관리위원회가 발주한 용역보고서는 선거 기간 딥페이크 활용 여부에 관해 후보자 동의를 받고 딥페이크임을 명시할 경우 허용하는 안을 비중있게 다뤘다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]