[훅 들어온 생성형 AI 시대] 체포된 트럼프·특정인물 지지한 尹… AI가 정치판 뒤흔든다

사람 이미지 합성한 '딥페이크'
尹 얼굴·음성 변조한 가짜뉴스
美 바이든 조작 발언 SNS 유포
여론조작·선동 등 문제 심각
AI 허위정보 규제안 마련해야

딥페이크로 조작된 오바마 전 대통령의 연설. 배우의 성대모사를 활용해 음성을 만들어냈다.<경북대 사회과학기초자료연구소'인공지능기술 발전에 따른 선거운동 제도개선 방안 연구' 보고서 캡쳐>

올해 3월 트럼프 전 대통령이 경찰에게 진압당하거나 이들의 추격을 피해 도로를 질주하는 가짜 사진이 SNS에서 확산됐다. <트위터 캡처>

2018년 글로벌팩트 5 컨퍼런스 장면. 동영상속 인물의 외형과 감정을 조작하는 기술인 '딥페이크(Deepfake)'. 얼굴을 맞바꾼다고 하여 소위 페이스 투 페이스(face to face)라고도 불린다.<김세희 기자,>

딥페이크 기술에 대한 설명. 전자는 원하는 얼굴을 기존의 이미지에 더하는 형태이고 후자는 입과 눈 같이 상황에 따라 달라지는 부위를 학습한 후 다른 얼굴에 적용하는 방법이다. 후자의 경우 이미지뿐만 아니라 목소리도 입혀서 적용할 수 있다.<U.S. Accountability Office. 2020.경북대 사회과학기초자료연구소'인공지능기술 발전에 따른 선거운동 제도개선 방안 연구' 보고서 캡쳐>

⑧ AI 올라탄 정치·가짜뉴스 남발

챗GPT에서 시작된 생성형 인공지능(AI) 열풍에 정치가 올라탔다.

지난 2020년 미국 상원의원 선거에서 일부 후보가 대화형 AI 챗봇을 선거 캠페인에 활용했고, 지난해 한국 대선에서는 AI윤석열과 AI이재명이 등장해 화제가 됐다.

부작용도 만만치 않다. 특정인물의 사진과 영상 등을 알고리즘이 학습한 뒤 외형과 감정을 조작하는 기술인 '딥페이크(Deepfake)' 때문이다.

이 기술을 활용하면 상대 후보가 하지도 않은 말을 한 것처럼 만들어내고, 거짓 정보를 의도적으로 유권자에게 전달할 수 있다. 그만큼 선거에도 지대한 영향을 미칠 수 있다. 각국 선거당국의 고심이 깊어진다.

◇2022년 대선에 등장한 AI윤석열과 AI이재명

지난해 5월 치러진 대선에서 딥페이크 기술을 활용한 선거운동이 펼쳐졌다. 당시 윤 후보와 이 후보는 자신과 똑같은 모습의 아바타를 만들어 공약을 설명하고 유권자의 질문에 답하는 방식으로 온라인 유세에 활용했다. 20·30 유권자와 거리를 좁혔다는 평가와 함께 실제 이미지보다 더 세련되고 안정된 이미지로 나온 것에 대한 지적도 뒤따랐다. 결국 유권자에게 조작된 정보를 제공한다는 비난이 나왔다.

더 큰 문제는 윤 후보가 대통령으로 당선된 후 터졌다.

6·1 지방선거를 앞두고 윤 대통령이 국민의힘 남해군수 후보를 지지하는 '딥페이크(AI로 영상, 음성 등을 변조한 가짜 정보) 영상'이 등장했다. 해당 영상에선 'AI 윤석열'이 등장해 "윤석열 정부는 여러분과 함께 살기 좋은 남해군을 만들겠다"고 말했고, 그 옆엔 '박영일 남해군수와 함께합니다!'라는 문구가 적혀 있었다.

이는 국민의힘 지지자로 추정되는 인물이 만든 허위 정보였다.

◇세계 각국 선거판에 난무하는 '딥페이크'

한국만의 문제는 아니다. 내년 11월 대선을 앞둔 미국이 대표적이다. 올 1월엔 조 바이든 대통령이 트랜스젠더 여성을 향해 "당신은 결코 진짜 여자가 될 수 없다"고 혐오 발언을 내뱉는 영상이 사회관계망서비스(SNS)에 퍼졌고, 3월엔 트럼프 전 대통령의 '성관계 입막음 의혹' 재판을 앞두고 그가 경찰에 연행되는 조작된 이미지가 SNS에 유포됐다.

딥페이크로 인한 가짜정보 확산 사례는 또 있다.

레제프 타이이프 에르도안 튀르키에 대통령은 5월 대선에서 터키 분리주의 단체 PKK가 상대 후보인 클루츠다로을루 후보를 지지하는 노래를 부르는 영상을 뿌려 지지자들을 자극했다.

AI가 만든 가짜 영상이었지만 선거는 의외의 방향으로 흘렀다. 결국 에르도안 대통령이 당선됐다.

다양한 언어를 활용해 같은 정당 후보의 이미지와 발언을 조작하는 사례도 있다. 인도 집권당인 인도인민당의 의장 마노지 티와리는 델리 주 의회 선거 하루 전날인 지난 2020년 2월 7일 아르빈드 케지리왈 델리 주 총리를 비판하는 내용을 영어로 된 영상과 힌디어 방언 중 하나인 하르얀비어로 된 영상으로 만들어 왓츠앱을 통해 유포했다. 영상은 티와리 의장이 힌디어로 발언한 51초 길이의 원본에 딥 페이크 기술을 적용해 입 모양, 얼굴 표정 및 발언 내용을 조작했다. 오세욱 한국언론진흥재단 선임연구위원원은 정책리포트 '허위정보로서 딥페이크 어떻게 대처할 것인가'를 통해 "인도인민당은 다음날 선거해서 패했지만, 향후 인도 내에서 사용되는 20여 개 언어에도 딥페이크 기술을 적용할 계획"이라며 "악의적 조작이 아닌 정치영역에서 일반적으로 사용되지 시작했다는 점을 보여주는 사례"라고 진단했다.

대중이 조작 영상에 속아 정치인을 비판한 사례도 있다.

2019년 9월 17일 블룸버그에 따르면, 마테로 렌치 전 이탈리아 총리가 다른 정치인들을 모욕하는 딥페이크 영상이 게시됐는데, 내용을 실제처럼 인식한 이용자가 총리를 비판하는 해프닝이 발생했다.

◇미-유럽 등 규제논의 본격화

딥페이크는 점점 고도화되고 있다. 조악한 합성 영상이 아니라 전문가도 허위 정보임을 구별하기 어려운 수준이 이르렀다. 크리스천 리에스(Christian Riess) 에어랑렌 뉘른베르크대 교수는 지난 2018년 이탈리아에서 열린 팩트체크 컨퍼런스 '글로벌 팩트체크 서밋'(Fifth Global Fact Checking Summit, Global Fact Ⅴ)에서 "사람의 얼굴을 합성하는 '딥페이크(Deepfake)' 기술은 두려울 정도"라고 말했다.

해외에선 이미 이를 규제하는 입법이 어느 정도 진행된 상태다. 미국은 일부 주법에서 불법적인 딥페이크 선거운동의 범위와 기준에 대한 규정을 두고 있다.

텍사스주 선거법은 선거 후보자에게 손해를 입힐 의도로 딥페이크 비디오를 제작한 뒤, 공식 선거일 30일 내에 유포하는 행위를 위법으로 규정하고 있다.

갤리포니아주 선거법은 악의적인 이미지, 오디오, 비디오 편집을 통한 선거운동을 금지하고 있다. 연방 차원에서도 딥페이크 선거운동과 관련된 입법 논의가 진행 중이다.

반면 유럽 연합은 딥페이크 선거운동을 특정한 규제 논의보다 딥페이크 기술의 오용을 막기 위한 일반법적 차원의 규제 논의가 진행되고 있다.

대표적인 사례는 2021년부터 추진하는 인공지능법(안)으로, 인공지능시스템 사용자가 해당 콘텐츠가 인위적으로 생산되거나 조작됐다는 것을 밝히도록 규정하고 있다.

그러나 국내는 AI를 활용한 허위 정보를 규제하는 별도 조항이 없다.

공직선거법, 형법, 정보통신망 이용촉진 및 정보보호 등에 관한 법률 등 기존 법을 적용해야 한다.

이 때문에 AI 허위 정보를 규제하는 내용의 공직선거법 개정안이 6건 발의돼 있지만 모두 국회에서 계류 중이다.

중앙선거관리위원회는 지난해 1월 '딥페이크 영상 관련 법규운용기준'을 발표했다.

주요 내용은 딥페이크 영상이 특정 후보자를 당선 혹은 낙선시킬 목적으로 허위 사실을 공표할 경우 허위사실공표제에 해당하며, 특정 후보자와 사전협의 등 공모관계가 성립하면 법적 책임을 물을 수 있다고 돼 있다.

사각지대는 여전하다. 운용기준에는 동영상만을 대상으로 하고 있고 이미지나 오디오는 포함하지 않는다. 딥페이크를 표시하는 기준에 대한 상세한 기준도 없어 혼란이 예상된다.

김세희·임재섭기자 saehee0127@dt.co.kr

이 기사에 대해 어떻게 생각하시나요?

디지털타임스에서 직접 확인하세요. 해당 언론사로 이동합니다.