선거 기간 AI 딥페이크가 쏟아지고 있다

각국 선거에서 AI 통한 영상·음성 조작 증가...총선 앞둔 한국은?
이미지 선거에 활용하거나 불리한 진실에 "딥페이크" 주장도

[미디어오늘 금준경 기자]

세계적으로 중요한 선거가 많은 2024년 인공지능(AI)발 허위정보 우려도 커지고 있다. 세계 각국에서 AI가 만든 딥페이크 영상이나 조작된 사진, 음성 등이 논란이 되고 있다. 허위로 제작해 속이지 않더라도 이미지 정치에 활용하거나, 정치적으로 불리한 영상이 드러난 경우 딥페이크라고 주장하는 사례도 늘고 있다.

영상 음성 조작해 선거 개입

미국에선 지난 23일 뉴햄프셔주 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭해 경선 불참을 권유하는 딥페이크 음성이 유포돼 논란이 됐다. CNN에 따르면 이 메시지는 최대 2만5000명에게 유포됐다. 뉴햄프셔주 법무장관실은 “대통령의 목소리처럼 들리지만 인공적으로 생성됐을 것으로 보이는 자동 녹음전화 메시지에 대한 신고를 접수했다”며 “경선을 방해하고 유권자들에게 혼란을 주려는 불법적 시도”로 규정했다.

▲ ⓒ istock.

지난해엔 조 바이든 대통령이 “트랜스젠더는 여성이 될 수 없다”는 혐오발언을 하는 영상이 유포돼 논란이 됐다. 도널드 트럼프 전 대통령이 격하게 저항하다가 체포되는 사진은 풍자 목적으로 만들었지만 사실로 믿는 사람들이 적지 않았다.

사실 드러나면 '조작' 주장해 '역이용'

AI 딥페이크가 확산된 가운데 허위를 사실처럼 꾸며낼뿐 아니라 사실도 허위처럼 여기게 '역이용'하는 사례도 늘고 있다.

파이낸셜타임스에 따르면 지난해 인도의 한 정치인은 자신의 정당의 비리를 다룬 영상이 나오자 '딥페이크'라고 주장해 전문가들이 검증에 나서야 했다. 지난해 반 트럼프 성향 단체인 '링컨프로젝트'는 도널드 트럼프 전 대통령의 말실수 모음 영상을 내보내 '치매설'을 주장했는데, 트럼프 전 대통령은 AI가 만든 조작된 영상이라고 주장했지만 영상 자체는 조작되지 않았다. '불편한 진실'이 드러났을 때 이를 조작으로 주장해 호도한 것이다.

부정적 이미지 씌우거나 띄우기

사람들을 속이는 AI 조작 정보뿐 아니라 특정 후보를 띄우거나 부정적 이미지를 덧씌우는 방식의 새로운 선거운동도 본격화됐다.

▲하비에르 밀레이 후보는 경쟁자인 세르히오 마사 후보를 중국 공산당 지도자처럼 보이는 AI 생성 포스터를 SNS에 올렸다. 사진=밀레이 후보 SNS 갈무리

특히 지난해 아르헨티나 대선에선 후보자들이 상대 후보를 비방하고 자신을 띄우기 위해 AI를 적극 활용했다. 하비에르 밀레이 후보는 경쟁자인 세르히오 마사 후보를 중국 공산당 지도자처럼 보이는 AI 생성 포스터를 SNS에 올렸다. 반면 자신은 사랑스러운 사자처럼 묘사한 AI 생성 이미지를 올렸다. 두 후보측이 만든 AI 콘텐츠에는 'AI가 제작했다'는 점을 명시했다. 사람들을 속이려 하기보다는 특정 이미지를 만들기 위해 활용한 것이다.

지난해 미국 공화당은 조 바이든 대통령이 당선되면 경제 위기가 오고 중국이 대만을 침공한다는 내용의 가상의 미래를 보여주는 딥페이크 영상을 만들었다. 부정적 이미지를 덧씌우기 위해 생성형 AI를 활용한 것이다. 지난해 캐나다 토론토 시장 선거에선 AI가 만든 노숙자 이미지를 활용해 자신이 당선되지 않을 경우를 가정해 부정적 이미지를 강조했다.

▲ 조 바이든 미국 대통령이 대선 출마를 선언하자 공화당이 인공지능을 활용한 영상으로 응수했다. 중국의 대만 침공으로 대만의 랜드마크가 무너지는 모습, 미국 재정 시스템이 붕괴돼 은행이 폐업하는 모습 등에 인공지능으로 만든 조 바이든 대통령을 배치했다.

AI 선거운동 금지, 정부 워터마크 규정 마련

세계 각국이 AI 기술의 선거 악용 우려에 제도 개선을 추진하는 가운데 한국도 적극 대응하고 있다.

지난 29일부터 AI 기반 딥페이크 영상을 이용한 선거운동이 전면 금지됐다. 중앙선거관리위원회에 따르면 AI 기능이 포함된 프로그램으로 만든 음향·이미지·영상을 활용한 딥페이크는 처벌 대상이다. 다만 공직선거법을 위반하지 않는 선에서 통상적 정당활동, 투표참여권유, 당내 경선 등에선 활용이 가능하다. 선관위는 AI 모니터링 전담 요원 59명에 AI 감별 자문위원 3명을 두고 모니터에 나섰다. 한국에선 공직선거법상 후보자 비방과 허위사실유포가 금지돼 있고 AI 기반 콘텐츠도 예외가 아니다.

방송통신위원회는 30일 범정부 차원의 '디지털 심화 시대의 대응'의 일환으로 딥페이크를 활용한 가짜뉴스(허위조작정보) 대응 방안을 마련하기로 했다. AI로 제작한 콘텐츠의 AI 제작 여부를 표기하는 워터마크 표기 등 방안을 검토할 계획이다.

지난해 10월 조 바이든 미 대통령이 서명한 미국의 인공지능 규제 행정명령에도 '딥페이크 대응'이 포함됐는데 '워터마크' 명시를 골자로 한다. 조 바이든 대통령은 “모든 사람들은 특정 음성이나 영상이 인공지능으로 만들었다는 것을 알 권리가 있다”고 했다. 메타와 구글은 AI로 만든 선거 광고의 경우 'AI가 제작했다'는 사실을 표기하는 정책을 도입하겠다는 입장이다.