[설왕설래] AI 가짜뉴스

지난 5월22일(현지시간) 미국 국방부 청사(펜타곤)에 폭발이 발생해 검은 연기가 치솟는 사진이 사회관계망서비스(SNS)를 통해 순식간에 퍼졌다. 2001년 발생한 9·11 테러 당시 알카에다로부터 펜타곤이 공격받은 장면을 떠올리게 하는 사진이었다. 백악관이 화재에 휩싸인 이미지도 SNS에 유포됐다. 미 증시가 순식간에 하락세로 반전하고, 금과 국채 가격이 오르는 등 혼란이 빚어졌다. 인공지능(AI)이 만든 가짜뉴스였다. AI발 가짜뉴스의 위험성을 극명하게 보여준 사례다.

지난해 3월엔 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 동영상이 SNS에 유포돼 소동이 벌어졌다. 영상에는 젤렌스키 대통령이 평소 연설하는 연단에서 우크라이나 국민에게 “러시아와의 전쟁에서 무기를 내려놓으라”고 말하는 모습이 담겼다. 이 영상은 딥페이크(deep fake)인 것으로 밝혀졌다.

딥페이크는 딥러닝(deep learning)과 페이크의 합성어다. AI 기술을 활용해 사진이나 영상을 하나로 합성하는 등 조작 사진·영상을 만드는 기술이다. 실제 촬영된 영상처럼 자연스럽다. 영화를 비롯한 엔터테인먼트와 질병 진단 등 의료 분야에서 활용된다. 교육과 캠페인에도 쓸모가 많다. 하지만 사이버 범죄, 가짜뉴스, 성인물 등에 악용되는 경우가 많은 게 현실이다.

미국 연방선거관리위원회(FEC)가 내년 11월 대선을 앞두고 딥페이크 이미지를 이용한 가짜뉴스 규제 검토에 최근 착수했다. 선거 정치 광고에서 딥페이크 영상을 생성·배포하는 것을 금지해 달라는 한 시민단체의 청원에 따른 것이다. 미 연방정부가 선거와 관련해 AI 기술규제 절차에 착수한 건 이번이 처음이다. 가짜뉴스가 선거 결과를 왜곡할 수 있다는 위기감이 작용한 결과라고 한다.

강 건너 불이 아니다. 사정이 더 급한 건 외려 우리나라다. 진영 갈등이 극심한 데다 광우병·사드(THAAD·고고도미사일방어체계)·후쿠시마 오염수 괴담에서 보듯 허위 선동에 취약한 탓이다. AI가 만든 가짜뉴스까지 극성을 부리면 내년 4월 총선은 진실과 허위를 구분할 수 없는 난장판이 될 수 있다. 손을 놓고 있어선 안 된다.

원재연 논설위원