[여적] 딥페이크 선거운동

경찰에 체포되는 것처럼 조작된 도널드 트럼프 전 미국 대통령 딥페이크 사진.

“내가 도대체 언제 저런 말을 했을까 생각했다.” 조 바이든 미국 대통령이 지난달 말 자신의 딥페이크(deepfake)물을 보고 깜짝 놀랐다는 말을 하자, 주위는 웃음바다가 됐다. 인공지능(AI) 기술을 활용해 특정 인물의 사진이나 영상을 합성해 만든 편집물인 딥페이크의 문제를 지적한 것이다. 바이든 대통령은 AI를 활용한 콘텐츠에는 ‘워터마크’를 붙이도록 하는 행정명령에 서명했다.

최근 페이스북에서 이재용 삼성전자 회장, 김종인 전 미래통합당 비대위원장, 유재석 방송인, 주진형 전 한화투자증권 대표 등 유명인의 사진을 사칭한 광고가 논란이 되자 경찰이 수사에 나섰다. ‘소숙희’라는 자막을 넣고 손석희 전 JTBC 보도담당 사장의 영상을 이용한 딥페이크 광고도 있다. 얼마 전 기시다 후미오 일본 총리와 힐러리 클린턴 전 미국 국무장관의 딥페이크 영상과 도널드 트럼프 전 미국 대통령의 딥페이크 사진이 화제가 됐다. 딥페이크는 처음에는 특정인의 성적 편집물에 이용되더니, 상업적 광고를 거쳐 이제는 정치적인 영역에 발을 들여놓고 있다. 내년 대선을 앞둔 미국이 딥페이크에 주목한 이유도 여기에 있다.

지난해 3월 대선에서는 윤석열 후보가 AI를 이용한 영상을 선보인 적이 있었는데, 본인 얼굴에다 AI를 이용한 본인 음성을 입힌 것이어서 논란은 크지 않았다. 하지만 내년 총선에서 유명인들의 사진·영상에 특정 후보를 지지하는 메시지를 입혀 선거운동을 한다면 어떻게 될까.

지금으로서는 꼭 짚어 규제할 만한 법 조항이 없다. 그렇기에 딥페이크가 허위 정보를 전하며 유권자를 현혹시키는 수단이 될 가능성이 높아졌다. AI 기술이 악용될 경우 지난 총선의 위성정당 파동 이상으로 걷잡을 수 없는 파문을 일으킬 수도 있다.

국회 정치개혁특별위원회 법안1소위가 24일 ‘딥페이크 선거운동’ 규제를 다루는 공직선거법 개정안 심사에 들어갔다. 한 위원이 전면 금지를 주장했으나 다각적인 검토를 위해 좀 더 논의를 이어가기로 했다. 표현의 자유를 최대한 허용하면서도, 허위 사실 유포의 수단을 차단하는 묘책이 나올 수 있을까. 국내에서 ‘딥페이크 규제’라는 첫발을 어떻게 디딜 수 있을지 주목된다.

윤호우 논설위원 hou@kyunghyang.com