“월 6500원 내면 무제한 생성” 딥페이크 영상 활개

휴대전화 앱서 10초면 영상 완성
텔레그램 등 보안메신저 이용도
대부분 해외 플랫폼… 단속 어려워

“얼굴을 바꾸는 중입니다.”

휴대전화 화면에 안내 문구가 나타났다. 그 후 10초가 채 안 돼 영상이 완성됐다. 해외에서 만든 한 휴대전화 애플리케이션(앱)에 사진을 올린 뒤 ‘얼굴 바꾸기’ 버튼을 누르자 순식간에 각종 영상 속 인물의 얼굴이 기자의 것으로 바뀐 것. 이 앱은 한 달 사용료 6500원을 내면 원하는 딥페이크(이미지 조작) 영상을 무제한으로 생성해 준다고 홍보했다.

4·10총선을 앞두고 딥페이크 등을 악용한 조작 영상이 판치는 가운데, 이런 영상이 온라인에서 손쉽게 제작되는 것으로 나타났다. 중앙선거관리위원회에 따르면 1월 29일부터 이달 9일까지 적발된 딥페이크 게시물은 총 384건이었다. 선관위는 모두 삭제를 요청하고, 그중 3건에는 경고나 준수 촉구 조치를 내렸다.

9일 본보 기자가 한 텔레그램 채널에 의뢰해 제작한 영상. 2018년 9월 방탄소년단(BTS)의 리더 RM이 미국 뉴욕 유엔본부 신탁통치이사회 회의장에서 열린 유니세프의 행사에서 연설한 원본 영상에 기자의 얼굴이 들어가있다. 손준영 기자 hand@donga.com

텔레그램 등 보안 메신저에선 휴대전화 앱을 이용하는 것보다 더 정교한 딥페이크 영상을 만들어 준다며 홍보하는 업자들을 어렵잖게 찾을 수 있었다. 9일 구독자 16만 명이 넘는 한 텔레그램 채널에서는 도널드 트럼프 전 미국 대통령과 블라디미르 푸틴 러시아 대통령이 활용된 딥페이크 영상을 샘플로 진열한 채 가격을 흥정하는 업자의 모습을 볼 수 있었다. 기자가 “내가 유엔에서 연설하는 영상을 만들어 달라”며 677원을 지불하자 실제로 16초 분량의 정교한 딥페이크 영상을 보내왔다. 영상 제작엔 36초밖에 걸리지 않았다. 이런 채널은 주로 말레이시아와 베트남 등 동남아에 근거지를 둔 업자가 운영하는 것으로 추정된다.

현재 허위 영상에 대한 삭제는 경찰과 방송통신심의위원회(방심위) 등을 거쳐 이뤄지고 있다. 지난해 11월 윤석열 대통령의 TV 연설을 짜깁기한 영상이 틱톡 등 소셜네트워크서비스(SNS) 등에 퍼졌을 때도 정부가 해외 SNS 운영사에 영상 삭제를 요청하는 식으로 처리됐다.

9일 본보 기자가 한 휴대전화 애플리케이션(앱)으로 만든 영상. 미국 영화배우 키호이콴이 지난해 3월 제95회 아카데미 시상식에서 남우조연상을 수상하는 모습이 본보 기자의 얼굴로 대체됐다. 손준영 기자 hand@donga.com

그러나 절차가 여러 단계를 거치고 해외 플랫폼사에 협조를 요청하는 수준에 그치다 보니 제때 삭제하기가 어렵다는 지적이 나온다. 방심위 관계자는 “해외 사업자들은 업무 협력적인 차원으로 진행하기 때문에 삭제를 강요할 수도 없다”고 밝혔다.

전문가들은 딥페이크 영상이 유권자의 판단에 영향을 미치는 사례가 이어지는 만큼 강력한 제재가 필요하다고 지적했다. 김명주 서울여대 정보보호학과 교수는 “인공지능(AI)을 활용한 조작 영상에 워터마크를 삽입하게 하는 유럽연합(EU) 등의 선례를 참고해 제도를 정비해야 한다”고 말했다.

손준영 기자 hand@donga.com
서지원 기자 wish@donga.com