[초동시각]선거판 뒤흔드는 '딥페이크' 대비책 마련해야

대만 총통 선거서 조직적 악용
경각심 갖고 부작용 최소화해야

"오는 29일부터 총선까지 딥페이크 영상을 활용한 선거운동을 금지하는 '공직선거법' 개정안이 국회 본회의를 통과했으니 해결된 것 아닙니까?"

전 세계 '슈퍼 선거의 해'를 맞아 가짜지만 진짜 같은 조작 기술 딥페이크(Deepfake)가 선거판을 뒤흔들면서 국내에도 대비책 마련이 시급하다는 지적이 나온다. 하지만 한 정치권 인사의 언급에서 보듯 정작 정치권의 경각심은 크지 않다. 공직선거법 개정안 통과로 입법적 대응이 시작됐으니 문제없다는 안일한 인식이 지배적이다. 나날이 진화하는 인공지능(AI) 기술을 활용해 이미지·영상 등을 합성해 진짜처럼 만드는 딥페이크 기술이 활개를 치고 공직선거에까지 악용되고 있는데 경각심은 기술 발전 속도를 따라가지 못하고 있다.

지난 13일 지구촌 첫 대선을 치른 대만은 'AI 선거'가 본격화됐음을 알렸다. 총통 선거 투표 직전까지 대만 유권자들은 딥페이크와의 싸움을 지속해야만 했다. 틱톡 영상 등 친중 허위정보가 난무하고 딥페이크가 선거 활동에 조직적으로 악용되면서 유권자들의 판단력을 흐리게 했기 때문이다. 빌 게이츠 마이크로소프트(MS) 창업자는 지난해 자신의 블로그에 "AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다"고 우려했다. 선거뿐만이 아니다. 2년 가까이 지속된 러시아·우크라이나 전쟁과 지난해 10월 이후 이어지는 이스라엘·하마스 전쟁에도 딥페이크를 포함한 AI 기술이 고도의 심리전 무기로 활용되고 있다.

학계는 국내에서도 딥페이크 핵폭풍 가능성을 경고하고 있다. 1000명 넘는 후보가 출마하는 이번 총선보다는 3년 뒤 치를 대통령 선거에서 판세를 뒤엎을 최대 변수로 떠오를 수 있다는 것이다. 소수 후보에 관심이 집중되는 대선에서 딥페이크가 유권자 판단력을 흐린다면 후보 당락을 좌우하는 결정타가 될 가능성도 있다. 지난 20대 대선에서 국민의 힘 윤석열 후보와 더불어민주당 이재명 후보의 득표율 차가 불과 0.73%포인트로 역대 대통령 선거 사상 최소 득표율이었다는 점을 고려하면 딥페이크의 부정적 영향력에 대한 경계심을 늦출 수 없다. 특히 딥페이크는 가짜뉴스와 달리 전문가조차 조작 여부를 쉽게 판단하기 힘들고 진위 판별에 오랜 시일이 걸리는 만큼 더욱 주의가 요구된다. 올해 11월 대선을 앞둔 바이든 미 대통령이 소셜미디어에 올라온 허위 정보에 대응하기 위해 수백명 규모의 스태프와 자원봉사자를 채용한 이유기도 하다.

전 세계 정·재계 유명 인사가 모여 인류 공통의 현안을 논의하는 세계경제포럼(WEF·다보스포럼)이 15일(현지시간) 스위스에서 개막한 가운데 올해 포럼에서는 AI가 중심 화두로 섰다. 각국 리더들은 허위 정보 양산과 디지털 격차 등 부작용을 줄이면서 AI를 활용할 방안 등을 고민한다. 국내에서도 딥페이크 기술에 대한 경각심을 높이고 이에 대비하기 위한 적극적인 준비가 필요하다. 딥페이크 선거운동에 대한 개념을 보다 명확히 하고, 온라인플랫폼 등에 대한 규제 방안을 세밀히 점검·설정해 부작용을 최소화해야 한다.

서소정 기자 ssj@asiae.co.kr