미국 대선도 흔드는 딥페이크, AI 챗봇 활용한 가짜사진 무차별 유포

딥페이크를 활용한 디지털 성범죄가 사회 문제로 떠오르는 가운데 미국 대선을 앞두고 인공지능(AI)의 정교한 이미지 생성 기능을 활용한 가짜 사진 확산이 선거 혼란을 부추기고 있다는 지적이 나온다. 미국의 초당파적 시민사회 단체 ‘뉴스 리터러시 프로젝트(NLP)’는 28일(현지시간) “11월 대선을 앞두고 허위 주장과 가짜 지지를 담은 게시물이 소셜미디어에서 폭발적으로 증가하고 있다”며 자체 홈페이지를 통해 576건의 조작 사례를 공개했다.

NLP 분석 결과 특정 후보자의 외모·평판을 조작한 이미지 조작 사진이 240건(42%)으로 가장 많았다. 뒤이어 후보 지지를 왜곡하는 조작 사진이 100건(17%), 근거 없는 음모론을 퍼뜨리는 이미지 91건(16%), 선거 제도와 관련해 잘못된 정보를 알리는 이미지 74건(13%), 후보 정책·공약을 오도하는 이미지 71건(12%) 등으로 나타났다.

특히 소셜미디어 X의 AI 기반 챗봇 ‘그록(Grok)’이 가짜 사진 확산에 영향을 미쳤다는 진단이 나온다. 지난 13일 출시된 그록2는 복잡한 기술 없이도 ‘달리’나 ‘미드저니’ 등 기존 이미지 생성 프로그램이 구현하지 못한 세부 묘사가 가능해 도널드 트럼프 전 대통령이나 카멀라 해리스 부통령에 대한 가짜 콘텐트의 홍수를 불러일으켰다고 CNN은 짚었다. 만삭의 해리스 부통령 배를 트럼프 전 대통령이 쓰다듬는 이미지나 트럼프 전 대통령이 김정은 북한 국무위원장 앞에서 무릎 꿇고 있는 이미지는 그록을 활용해 만든 가짜 사진들이다. 가짜 이미지 확산 배경에 적성 국가의 조직적 활동 징후도 감지되고 있다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 CNN에 “정교한 수준으로 볼 때 러시아·이란·중국 등 적대적 국가의 소행일 수 있다”고 말했다.

워싱턴=김형구 특파원 kim.hyounggu@joongang.co.kr