선거에 악용되는 딥페이크 기술

22년부터 지금까지 4차례(제20·21대 대선, 제22대 국선, 제9회 지선)의 선거에서 사이버공정지원단으로서 온라인상 선거법 위반행위 단속과 예방, 그리고 안내활동을 해 왔다. 포털사이트나 네이버밴드, 페이스북 등의 SNS 게시물을 실시간으로 모니터링하면서, 잘못된 정보나 위법한 게시물이 온라인상으로는 오프라인보다 더욱 빠르게 확산되는 현상을 종종 목격했으며, 이를 바로잡는 것이 선거의 공정성을 지키는데 매우 중요한 임무라는 사실도 알게 되었다.

지난 대선에서 딥페이크 관련 위법게시물 삭제 건수가 전국적으로 1만여건에 달했으며, 중앙선관위는 이번 지방선거에서 딥페이크에 의한 선거운동이 더욱 범람할 것으로 예상하고 있다.

이미, 경북선관위는 '딥페이크(딥보이스 포함)' 관련 선거법 위반자에게 전국 최초로 500만원씩의 과태료를 부과한 사례가 있고, 해당 사례는 언론을 통해 대대적으로 전파되었으므로 지역에서는 AI를 이용한 선거운동이 이미 이슈가 되어 있는 상태이다. 따라서 경상북도선거관리위원회의 사이버공정선거지원단 업무도 AI를 이용한 선거운동 게시물 모니터링에 큰 가중치를 두고 있는 실정이다.

딥페이크(deepfake)란, 딥러닝(Deep Learning)과 Fake의 합성어로, 딥러닝 기술을 사용하는 이미지 합성 기술로, 최근에는 생성형 인공지능을 이용해 실제처럼 보이도록 조작, 생성된 자료를 총칭하는 의미로 확장되었다. 특정 인물의 얼굴, 목소리, 체형 등을 다른 영상이나 사진에 정교하게 합성할 수 있어 일반 사람들이 진위여부를 가려내기가 매우 어렵다. 특정 정치인의 얼굴합성과 딥보이스를 활용한 허위 영상이나 '가짜 뉴스'를 퍼뜨려 여론을 조작할 수도 있으며, 실제와 구분하기 힘든 딥페이크 영상에 피로감을 느낀 사람들이 '진짜 뉴스'나 증거마저도 '가짜'라고 의심하게 되는 결과를 초래할 수도 있다. '기술의 발전'이 '진실의 가치 하락'으로 연결될 수 있는 것이다.

AI를 이용하여 생성된 딥페이크, 딥보이스 등의 영상?음향은 해를 거듭할수록 실제와 더욱 구분하기 힘들 정도로 발전될 것이다. 이런 기술을 규제 없이 허용한다면 낙선목적의 선거운동, 비방 및 허위사실공표 등의 악의적 행위가 아주 쉽고 반복적으로 가능하게 되며, 이는 선거 여론을 흔들고, 불특정 다수가 그것을 분별없이 받아들이거나 허위 정보라는 인식 없이 불분명한 정보와 혼합·확산되어 선거의 공정성을 크게 해치는 결과로 나타날 것이다.

사이버공정선거지원단은 '눈에 보인다고 해서 모두 진실은 아닐 수 있다' 는 전제 하에 모니터링을 실시하고 있으며, 선관위는 딥페이크를 이용한 불법적인 선거운동을 무관용 원칙으로 대응하고 있지만, 무엇보다 사이버게시물을 대하는 시민들의 올바른 인식과 태도가 절실하다.

기술이 눈을 잠시 속일 수는 있겠으나 깨어있는 시민들의 집단지성과 통찰력까지 속일 수는 없다. 딥페이크 기술이 선거의 공정성을 흔들고 있는 지금, 정부에게는 정제된 정보를 시민들이 원하는 방식으로 제공하는 방법에 대한 고민을, 유권자에게는 '나의 권리를 포기하지 않으려는 최소한의 관심'을 요청 드린다. AI(인공지능) 시대를 살아가는 유권자로서 후보의 자극적인 영상보다는 공식적으로 제공되는 선거 공보물과 검증된 정책 내용에 더 집중해보는 것은 어떨까.

김은혜 경상북도선거관리위원회 사이버공정선거지원단