“묘하게 닮았네” ‘오세훈 딥페이크 영상’에 회의장 ‘파안대소’…무슨 일?

제327회 정례회 시정질문
윤영희 “딥페이크 영상 만들기 너무 쉽다” 지적
오세훈 “앞으로 인격권 철저히 보호할 수 있게 할 것”

[이데일리 이로원 기자] 오세훈 서울시장이 딥페이크(인공지능 기반 이미지 합성) 기술을 통해 30대 ‘몸짱’ 배우로 변신했다.

19일 서울시의회 제327회 정례회 제3차 본회의에 등장한 오세훈 서울시장의 딥페이크 영상. 사진=유튜브 채널 ‘서울시의회’ 영상 캡처

19일 서울시의회 제327회 정례회의 시정질의자로 나선 윤영희 서울시의원(국민의힘)은 최근 지방의회 의원들을 상대로 한 딥페이크 범죄 피해가 확산 중이라고 언급하며 직접 오 시장의 얼굴로 만든 딥페이크 영상을 공개했다. 딥페이크 기술의 파급력을 쉽게 설명함과 동시에 위험성과 심각성을 알리기 위해서다.

윤 의원이 휴대폰 어플을 통해 한 외국 배우와 오 시장의 얼굴을 합성하자 현장에 있던 모든 사람들이 파안대소 했다. 윤 의원의 질의에 답하기 위해 단상에 오른 오 시장도 피식 웃으면서 “묘하게 닮았다”고 말했다.

윤 의원은 “제가 이 영상을 1분도 안 돼서 만들었는데 심지어 무료였고 너무 쉬웠다”고 지적했다.

이에 대해 오 시장은 “서울시가 디지털성범죄센터에서 최초로 (딥페이크 영상을 잡아내는) 인공지능(AI) 프로그램을 도입했는데 기대 이상”이라며 “과거에는 사람이 일일이 수작업해야 했기에 지워놓으면 바퀴벌레처럼 다시 튀어나오는 상황이 끊임없이 발생했는데, 지금은 AI가 대량으로 해주고 있다”고 설명했다.

이어 “피해자가 되면 사회적·정신적 피해가 극심한 만큼 앞으로도 인격권을 철저히 보호할 수 있게 하겠다”고 강조했다.

앞서 지난 17일 경찰청은 최근 서울, 인천, 부산, 광주, 대구 등 전국 각지의 기초의원 소속 30명으로부터 딥페이크 협박 메일을 받았다는 신고를 접수했다고 밝혔다. 불법 합성물에 사용된 사진은 의회 홈페이지 등 인터넷에 올라와 있는 의원들의 증명사진이다.

메일에는 “당신의 범죄 증거를 갖고 있다” “어떤 영향이 터지는지 알고 있을 것” 등 협박 메시지도 함께 담긴 것으로 전해졌다.

메일 발송자는 불법 합성물을 삭제해 주는 대가로 5만 달러(약 7000만 원) 상당의 암호화폐를 QR코드로 보내라고 유도한 것으로 조사됐다.

경찰 관계자는 “서울경찰청 사이버범죄수사대 등 각 지방청 차원에서 수사할 방침”이라고 말했다.

이로원 (bliss243@edaily.co.kr)