선거 90일전부터 딥페이크 선거운동 금지, ‘AI 윤석열·이재명’ 못 쓴다

여야, 가짜뉴스 차단 합의

AI 윤석열. /국민의힘 유튜브 '오른소리' 라이브 영상

여야는 4일 ‘딥페이크(Deep fake)’를 활용한 선거운동을 선거일 90일 전부터 전면 금지하는 내용이 담긴 공직선거법 개정안을 국회 정치개혁특위 법안소위에서 통과시켰다. 이 법안이 국회 본회의를 통과하면 22대 총선의 90일 전인 1월 11일부터 딥페이크 선거운동은 불법이다. 지난 대선 때 화제를 모은 ‘AI 윤석열’ ‘AI 이재명’을 앞세운 선거운동을 할 수 없다는 것이다.

딥페이크는 AI 기술로 이미지·영상 등을 합성해 마치 진짜처럼 만들어내는 ‘가짜’다. 하지만 이미 기술이 가짜와 진짜를 구별하기 불가능한 수준에 도달했다는 평가를 받고 있다. 총선에서 후보자 얼굴을 합성한 딥페이크 영상·이미지가 쓰이고, 특히 가짜 뉴스 유포에 악용되는 상황에 대비해 여야가 법안을 통과시킨 것이다. 소위 위원장인 더불어민주당 김영배 의원은 통화에서 “딥페이크 가짜 뉴스가 당선과 낙선을 가를 수 있다는 공감대가 있었다”며 “문제를 최소화하고자 일단 전면 금지로 잡은 것”이라고 말했다.

여야가 내년 총선에 대비해 이날 90일 동안 딥페이크 선거운동을 금지하는 선거법 개정안을 통과시킨 건, 딥페이크가 가진 ‘파괴력’이 그만큼 크기 때문이다. 여야 의원들은 “가짜를 진짜라고 몰아붙일 수도 있고, 불리한 건 진짜라도 가짜라고 우기는 상황도 생길 수 있다”고 했다. 개정안도 ‘선거일 전 90일’ 기간이 아닌 때는 딥페이크 선거운동을 허용한다. 하지만 딥페이크라는 표기를 반드시 해야 하며 어길 경우 과태료가 부과된다.

딥페이크 본고장인 미국에선 이미 내년 대선에서 딥페이크 가짜 뉴스가 선거 승패에 결정적 영향을 줄 것이란 예측이 나온다. 이에 미국에선 선거를 앞두고 딥페이크를 금지하는 법안도 여럿 나왔다. 미 텍사스주는 선거일 30일 전부터 선거 결과에 영향을 주는 딥페이크 영상 제작·유포를 금지하고 있고, 캘리포니아주도 선거일 60일 전부터 후보자를 대상으로 한 딥페이크 유포를 금지하고 있다. 유럽연합도 인공지능법에서 딥페이크 사용 시에는 인위적으로 생산되거나 조작된 것임을 명시하도록 하고 있다.

한국에서도 지난 2021년 12월 당시 윤석열 대통령 후보 선거대책위가 선보인 ‘AI 윤석열’이 화제를 모은 적이 있다. 이재명 후보가 윤 후보를 비판하는 글을 소셜미디어에 올리면, AI 윤석열이 대신 나서 “많이 초조해 보이십니다”라고 답했다. 당시 민주당은 AI 윤석열을 “민주주의 위협 그 자체” “국민 기만 행위”라고 비판하더니 2개월여 만에 ‘AI 이재명’을 내놨다.

문제는 딥페이크가 가짜 뉴스 유포에 취약하다는 점이다. 미국에서는 지난 5월 미 국방부 청사 인근에서 대형 폭발이 발생해 검은 연기가 치솟는 사진이 소셜미디어를 통해 급속히 퍼져 주식시장이 출렁였지만 가짜였다. 교황이 명품 패딩을 입거나, 트럼프 전 대통령이 체포되는 가짜 사진이 확산되기도 했다.

이날 법안소위에서 통과된 딥페이크 금지 조항에 대해 여야 의원들은 찬성과 우려를 함께 내놓았다. 민주당의 한 의원은 통화에서 “선거에서 딥페이크는 유불리의 문제가 아니라 범죄의 영역”이라며 “금지하는 게 옳다”고 했다. 국민의힘 의원도 “딥페이크라고 표시해도 잘 모르는 사람은 깜빡 속을 수 있다”고 했다. 하지만 여야 모두에서 “현역 의원들이 정치 신인들의 온라인 활동을 막기 위한 기득권 지키기로 보일 수 있다” “금지한다고 원천 봉쇄가 가능하겠느냐” “오히려 금지하면 딥페이크도 다 진짜인 줄 알 것”이라는 등의 의견도 나왔다.