수갑 찬 정당 대표·총선 후보 사퇴 선언, 알고보니…유럽 선거판 뒤흔든 ‘AI 딥페이크’

[ChatGPT 생성]

최근 유럽 주요 국가의 선거에서 생성형 인공지능(AI)으로 제작된 딥페이크 콘텐츠가 잇따라 논란을 일으키면서 관련 규제를 강화해야 한다는 지적이 제기되고 있다.

정치 전문 매체 폴리티코 유럽판은 31일(현지시간) “네덜란드 극우 자유당(PVV) 소속 의원들이 경쟁 정당 대표를 비방하는 딥페이크 이미지를 유포했다는 사실이 드러나 파문이 일었다”고 보도했다.

보도에 따르면 PVV 소속 의원 2명은 30일 총선을 앞두고 녹색·노동 좌파 연합의 대표인 프란스 티머만스 겨냥한 딥페이크 이미지를 유포하는 페이스북 페이지를 운영한 것으로 나타났다.

해당 페이지에 게시된 이미지에는 티머만스가 수갑을 찬 채 경찰에 연행되거나, 그가 돈더미 위에 손을 얹고 있는 모습 등이 포함돼있었다.

논란이 커지자 PVV 대표 헤이르트 빌더르스는 지난 27일 티머만스에게 공식 사과했다.

앞서 지난 24일 치러진 아일랜드 대선에서도 딥페이크 영상이 등장했다. 유력 후보 캐서린 코널리가 ‘후보 사퇴’를 선언하는 듯한 조작 영상이 유포된 것이다. 영상 속 코널리는 “유감스럽게도 선거운동을 종료한다”고 말하지만, 실제로는 전혀 사실이 아니었다.

이에 코널리는 “유권자를 속이고 민주주의를 훼손하려는 부끄러운 시도”라며 강하게 반발했다.

전문가들은 이들 사례에 대해 깊은 우려를 표명했다. 네덜란드 암스테르담대 교수 클라스 더 브레제는 이번 논란은 유럽에서 딥페이크 기술이 선거 운동의 핵심 요소로 자리 잡은 첫 사례라고 지적했다.

현재 유럽연합(EU)의 디지털서비스법(DSA)은 허위·조작 콘텐츠가 선거에 미치는 영향을 막기 위해 플랫폼에 일정한 책임을 부과하고 있다. 그러나 이는 주로 허위정보 대응에 초점이 맞춰져 있어, 정당이 생성형 AI를 활용해 선거 메시지를 확산하는 행위에 대한 규제는 미비하다는 지적이 나온다.

EU 집행위원회는 기본권을 위협할 수 있는 ‘고위험’ AI 시스템에 대한 지침을 마련 중이며, 이르면 내년 8월 시행할 예정이다.

토마스 레이에 집행위 대변인은 “지침에는 선거나 국민투표 결과에 영향을 미치려는 AI 시스템에 관한 조항이 포함될 것”이라고 밝혔다.