'가짜 리벤지 포르노와의 전쟁' 선포한 미국

미국이 가짜 리벤지 포르노와의 전쟁을 선포했다. 처벌조항을 신설해 철퇴를 가한다.

가짜 리벤지 포르노는 특정인 이미지나 영상을 합성해 실제처럼 보여주는 '딥 페이크' 기술이 활성화되면서 기승을 부리고 있다. 인공지능(AI) 아나운서를 만들고 영화 특수 효과 등 사실감을 높이기 위해 쓰이는 기술이었지만 부작용이 만만치 않다.

대선을 앞두고 미국에서는 정치인 얼굴을 합성 영상으로 만들어 가짜 뉴스를 생성하기도 했다. 이보다 더 심각한 문제는 리벤지 포르노다. 지인이나 헤어진 애인에게 복수하려고 만든 리벤지 포르노에 딥 페이크 기술이 쓰이기도 한다. 분명한 성범죄다.

<원더우먼>으로 알려진 할리우드 배우 갤 가돗을 합성한 딥 페이크 불법 영상

?" />

딥 페이크는 기계학습(머신러닝)을 이용, 인공지능(AI)이 스스로 객체를 인식하고 영상 프레임마다 합성을 할 수 있다. 실제 음란물 영상에 얼굴만 합성하면 전체 음란물 영상 주인공을 완전히 바꿀 수 있다. 가짜를 사실처럼 표현할 수 있어 딥 페이크라고 칭한다.

딥 페이크로 리벤지 포르노를 제작하면 영상 진위를 쉽게 알 수 없다. 콘텐츠를 접한 사람은 그것이 사실이라고 믿는다. 소셜네트워크서비스(SNS)를 통해 전 세계로 유포된다. 자신도 모르는 사이에 음란물의 주인공이 되는 것이다.

유명 할리우드 배우 스칼렛 요한슨과 엠마 왓슨 등 여배우가 딥 페이크 포르노에 피해를 입었다. 스칼렛 요한슨 경우 1년 넘게 인터넷에서 수십 개의 딥 페이크 포르노가 유포됐다. 불법 포르노 사이트에서 이용자가 영상을 본 횟수가 150만번에 이르기도 했다. 스칼렛 요한슨은 "누구든 표적이 되는 것은 시간 문제"라고 우려를 표명하기도 했다.

음란물 자체를 유포할 경우 미국에서도 처벌이 가능하지만, 딥 페이크 리벤지 포르노는 명확한 처벌 대상 항목에 들어가지 않았다. 즉 처벌 기준이 없었던 것이다. 구글이 콘텐츠 금지 명단에 '합성 음란 이미지' 포함하면서 차단에 나섰지만, 실효성은 크게 없다는 평가다.

추적이 어렵고 표면적으로 '창작물'의 탈을 쓴 딥 페이크 확산에 제동을 걸기 위해 가장 먼저 나선 건 버지니아 주다. 버지니아주는 올해 초 딥페이크 포르노 영상이 리벤지 포르노에 포함시킨다는 법안을 통과시켰다. 딥 페이크 기술로 만든 리벤지 포르노를 만들면 처벌받는데 7월 1일부터 발효됐다.

사진을 보내주면 합성 콘텐츠를 만들어준다는 텀블러 계정

딥 페이크 기술을 활용해 리벤지 포르노를 제작·유포할 경우, 1등급 경범죄로 취급한다. 최대 12개월 징역과 2500달러(약 292만원) 벌금을 부과한다.

우리나라는 어떨까. 우리나라에서 딥 페이크를 사용하든 사용하지 않든 리벤지 포르노를 제작·유포하는 건 불법이다. 형법 제 244조(음화 제조 등)에 따르면, 음란물 제작·유포, 수출·수입한 자는 1년 이하 징역 또는 500만원 이하 벌금에 처한다. 유명 연예인 얼굴을 합성해 음란물을 제작할 경우, 초상권 침해에 해당한다.

권동준기자 djkwon@etnews.com