AI 딥페이크 선거운동 금지, 가짜뉴스로부터 민주주의 지켜야 [사설]

'딥페이크(Deepfake)'를 이용한 선거운동을 선거 90일 전부터 금지하는 내용의 공직선거법 개정안이 4일 국회 정치개혁특위 법안소위를 통과했다. 딥페이크는 인공지능(AI) 기술을 활용해 가짜 동영상·음성·이미지를 만드는 기술이다. 전문가조차 진짜와 가짜를 구분할 수 없을 정도로 기술이 발전했다. 후보자의 얼굴과 목소리를 교묘하게 합성해 그가 부도덕한 행동을 하는 딥페이크 동영상이 제작돼 유포될 경우 유권자들이 속아 넘어갈 확률이 매우 높다. 2019년 낸시 펠로시 당시 미국 하원의장이 술이나 약에 취한 듯 어눌한 말투로 연설하는 동영상은 딥페이크라고 할 수 없는 매우 단순한 기술로 조작됐는데도 금세 수백 만명의 유권자들에게 전파됐다. 이보다 훨씬 정교한 딥페이크가 확산되면 선거는 진짜를 가짜로 오인하고, 가짜를 진짜로 믿는 난장판이 될 것이다. 정치 불신과 양극화가 더욱 심해져 민주주의는 흔들릴 것이다. 여야가 이를 우려해 딥페이크 금지법에 합의한 것은 잘한 일이다.

한국보다 딥페이크 기술이 앞선 미국에서는 이를 금지하는 법이 여럿 제정됐다. 캘리포니아주는 선거 60일 전부터 딥페이크 기술로 정치인의 말과 행동을 조작하는 행위를 범죄로 간주해 처벌한다. 텍사스주는 선거 30일 전부터 선거에 영향을 미칠 수 있는 딥페이크 영상 제작을 금지하고 있다. 한국은 2022년 1월 중앙선거관리위원회가 딥페이크 기술로 제작된 영상은 반드시 이를 표시하도록 하는 '딥페이크 운용 기준'을 발표했으나, 이것만으로는 가짜뉴스를 막기에 역부족인 게 사실이다. 그 동영상을 다시 조작해 딥페이크 표시를 없애고 유포할 경우 유권자들이 속수무책으로 속을 수 있다. 허위가 아닌 진실로 유권자의 마음을 얻는다는 선거의 본래 정신을 감안할 때 딥페이크는 선거일 전 일정 기간은 금지하는 게 옳다. 다만 금지법 제정만으로 가짜뉴스가 차단될 걸로 믿어서는 안 된다. 법의 틈새를 악용해 가짜뉴스를 퍼뜨리는 시도는 틀림없이 있을 것이다. 유권자가 이를 매의 눈으로 감시해야 한다. 그래야 민주주의를 지킬 수 있다.