정치판 뒤흔드는 '딥페이크'…누구나 제작할 수 있다고?[손엄지의 IT살롱]

네거티브와 결합한 딥페이크…"사실이 가짜를 이기지 못하는 상황"
누구나 만들 수 있어도 '아무거나' 만들어선 안 돼

'Website Learners' 유튜브 채널에서 만든 딥페이크 영상

(서울=뉴스1) 손엄지 기자 = 미국 공화당 대선 후보 경선을 앞두고 "경선에 투표하지 말라"는 조 바이든 미국 대통령의 딥페이크(deepfake) 음성이 유포돼 수사에 착수했다.

한국에서도 4월 총선을 앞두고 딥페이크 주의보가 내렸다. 중앙선거관리위원회는 이달 11일부터 인공지능(AI) 전문가와 모니터링 전담 요원 등으로 구성한 감별반을 운영하고 있다.

딥페이크 영상은 누구나 쉽게 만들 수 있다. 딥페이크 영상을 만드는 방법을 소개한 유튜브 동영상의 길이는 2분 남짓. 클릭 몇 번으로 금세 본인의 얼굴을 레오나르도 디카프리오로 만들었다.

딥페이크 프로그램은 다양하다. MIVO라는 애플리케이션(앱)을 쓸 수도 있고, '스와프페이스'(swapface) 프로그램을 설치하면 바로 내가 원하는 영상 또는 사진에 원하는 얼굴을 갈아 끼울 수 있다. 깃허브(Github)에는 딥페이크 AI 기술 오픈소스도 올라와 있어 얼마든지 응용이 가능하다. 모두 무료다.

딥페이크 음성은 훨씬 자연스럽다. 깃허브에 올라온 오픈소스 'Tortoise TTS(text to speech)'를 이용하면 10초 정도의 샘플 목소리 3개만 있어도 목소리 합성이 가능하다. 다른 가수 노래에 원하는 아티스트의 목소리를 합성해 만든 AI 음악은 유튜브에서 유행할 정도다.

딥페이크 기술에 쉽게 접근할 수 있게 되면서 AI가 민주주의에 중대한 위협이 될 것이라는 경고는 현실화되고 있다. 혐오를 부추기는 네거티브와 결합한 딥페이크는 부정적인 파급력이 더 크다.

지난해 5월 튀르키예 대선에서 당시 후보였던 에르도안 대통령은 쿠르드족 분리주의 무장단체 '쿠르드노동자당'이 상대 후보를 지지한다는 영상을 지지자에게 공유했다. 이후 민족주의 노선을 앞세운 에르도안 대통령의 지지율이 급등하며 재선에 성공했다. 조작된 영상이 집권당 승리에 결정적 영향을 준 것으로 보인다.

지난해 9월 슬로바키아 총선에서도 딥페이크 음성이 선거 결과에 큰 영향을 끼쳤다. 우위를 달리던 친미 성향의 야당 대표가 "우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다"고 말한 가짜 음성이 퍼지면서 선거 결과가 뒤바뀌었다.

정치 영역에서 AI가 악용되면서 '가짜가 사실을 이기는 상황'이 생겨났다. 이는 우리가 만들어놓은 신뢰사회에 균열을 내고 있다.

딥페이크 영상을 누구나 만들 수 있지만 아무거나 만들어서는 안 된다. 조속히 관련 법이 만들어져야 할 테지만 법이 만들어지고 적용되는 데는 시간이 오래 걸린다. 사회 구성원의 성숙한 자세가 필요하다.

AI가 인류에 '원자폭탄'이 될지 '백신'이 될지는 사람에게 달렸다.

ⓒ News1 김지영 디자이너

eom@news1.kr