딥페이크: '누군가 제 얼굴을 음란물에 합성했습니다'
아무런 동의 없이 당신의 얼굴이 음란물 영상에 합성돼 인터넷에 퍼지고 있다고 상상해보자. 이 끔찍한 일이 영국의 어느 여성에겐 실제로 일어났다.
케이트 아이작스(30)는 어느 날 트위터를 둘러보다가 우연히 어떤 영상을 발견했다. 불안감이 엄습했다.
"공포가 밀려왔다"는 아이작스는 처음으로 이 일에 대해 공개적으로 입을 열었다.
"누군가 제 얼굴을 가져다가 음란물 영상에 붙여넣었더군요. (영상 속 인물은) 정말 저인 것처럼 보였습니다."
딥페이크였다. 누군가 AI 기술로 포르노 배우의 얼굴에 아이작스의 얼굴을 합성해 넣은 것이다.
아이작스는 서로 합의하지 않은 음란물 촬영에 반대하는 운동을 펼치고 있었다. 그리고 TV에 출연해 이와 관련된 발언을 하는 아이작스의 얼굴을 누군가 이용해 마치 아이작스가 성관계를 하는 듯한 영상을 만든 것이다.
이에 대해 아이작스는 "가슴이 철렁 내려앉았다. 생각이 제대로 되지 않았다"면서 "그저 이 영상이 어디로든 퍼져나갈 것 같았다는 것만 기억한다. 실로 끔찍한 기억"이라고 회상했다.
과거 유명 연예인이나 정치인들의 얼굴이 가장 흔하게 합성됐다. 게다가 반드시 음란물 영상뿐만 아니라 이들의 얼굴을 사용해 웃긴 영상이 만들어지곤 했다.
그러나 시간이 지나면서 이제 상황이 바뀌었다. 사이버 보안 업체인 '딥트레이스'에 따르면 지난 수년간 발견된 모든 딥페이크 영상 중 96%가 합의되지 않은 음란물 영상이다.
리벤지 포르노처럼, 딥페이크 포르노는 이미지 기반 성폭력으로서, 동의 없이 은밀한 사진을 찍고, 제작하고, 공유하는 모든 행위를 포함하는 포괄적 용어다.
스코틀랜드에선 이미 동의 없이 타인의 은밀한 사진이나 영상을 공유하는 행위를 불법으로 규정한다.
그러나 이 외 영국 지역에선 피해자에게 고통을 주기 위해 이러한 행동을 했다는 것을 입증해야만 범죄로 간주된다.
바로 이 점 때문에 비슷한 영상을 제작하는 이들에게 법적인 책임을 묻지 못할 때도 있다. 한편 영국 정부가 오랫동안 구상해 온 '온라인 안전 법'은 여전히 수정과 보류를 반복하고 있다.
영국의 방송 통신규제기관 오프콤에 전 세계 어디에 기반을 두고 있든 간에 영국 사용자에게 해를 끼치는 것으로 간주되는 모든 웹사이트를 단속할 수 있는 권한을 부여하는 법안이다.
그러나 이달 초 미셸 도넬란 디지털문화미디어스포츠부 장관은 현재 법안이 통과될 수 있도록 '최대한 노력하고 있다"고 말했다.
한편 아이작스는 지난 2019년 #낫유어폰(NotYourPorn) 캠페인을 처음 시작한 인물로, 1년 만에 '폰허브'와 같은 성인 사이트가 검증되지 않은 사용자들이 업로드한 모든 영상을 삭제하게 하는 등 성과를 올렸다.
흥미로운 점은 이렇게 삭제된 콘텐츠가 사이트에 올라온 콘텐츠의 다수를 차지했다.
이런 성과에 불만을 느낀 누군가가 딥페이크 영상을 만들어 유포했다는 게 아이작스의 생각이다. 아이작스가 "자신들의 포르노를 빼앗았다는 것"이다.
그러나 아이작스는 누가 배후에 있는지, 심지어 누가 그 영상을 봤는지 전혀 알 수 없다. 그리고 아이작스는 본인의 얼굴이기에 포르노 배우의 영상에 합성됐다는 알아볼 수 있었으나, 워낙 정교하게 합성된 탓에 누군가는 진짜 아이작스라고 생각하지 않을지 우려된다고 했다.
"이는 불법입니다. 내 신분(얼굴)을 동의 없이 사용했으니까요."
게다가 동영상 밑 부분엔 공격적인 댓글이 달리기 시작했다. 이 중에는 아이작스를 집까지 따라가서 강간한 뒤 이를 촬영해 인터넷에 올리겠다는 내용도 있었다.
"(상황이 이렇게 되면) 가족을 생각하게 된다"는 아이작스는 눈물을 참으며 "가족들이 이러한 영상과 글을 본다면 무슨 기분이 들겠나"고 말했다.
게다가 아이작스의 집과 직장 주소가 영상과 함께 공개되는 등 소위 '신상이 털리면서' 상황은 더욱 심각해졌다.
"저는 완전히 편집증 환자처럼 굴게 됐습니다. 누군가 제 주소를 알진 않을지, 이런 짓을 한 사람이 내 지인은 아닐지 의심했습니다."
"저는 당시 '내가 직면한 문제는 정말 실존하는 문제구나. 인터넷에서 몇몇이 떠들어대는 상황으로 치부할 게 아니구나. 이 위험은 진짜구나'라고 생각했습니다."
한편 아이작스는 비슷한 상황에 처한 다른 피해자들을 지원했던 경험이 있기에, 이러한 피해를 봤을 때 어떻게 해야 할지 정확히 알고 있었다.
그러나 정작 그 순간 아이작스는 온몸이 얼어붙어 제대로 생각할 수 없었다.
"나는 내가 다른 이들에게 했던 조언을 하나도 따르지 않았다"는 아이작스는 "캠페인 활동가로서 매우 강하고 굳건한 케이트라는 모습이 있고, 또 정말 겁에 질려버린 케이트 개인이 있었습니다."
아이작스의 동료가 해당 비디오와 악성댓글, 신상 털기 등을 트위터 측에 신고하면서 이는 모두 삭제됐다. 그러나 일단 한 번 딥페이크 영상이 온라인상에 등장해 공유되면 이를 완전히 제거하기란 무척 어렵다.
이에 대해 아이작스는 "인터넷에서 이 영상이 사라지기만을 바랬다"면서 "그런데 내가 할 수 있는 일이 아무것도 없었다"고 말했다.
딥페이크 피해를 당했다면?
- 증거 수집: 자신이 합성된 영상을 본 순간 삭제하고 싶어지기에 증거를 수집한다는 건 직관과 반대되는 행동으로 느껴질 수 있다. 그러나 해당 영상을 내려받아 보관해야 하며, 이 영상의 데이터, 타임 스탬프, 사용자 이름, URL 등을 스크린 캡쳐 해둬야 한다. 이후 이 파일을 보안 폴더에 저장해 암호를 걸어 둬야 한다.
- 사건 신고: 증거를 수집했다면 영상이 올라온 플랫폼에 사건을 신고한다.
- 경찰 신고: 또한 경찰에게 무슨 일이 일어났는지 기록하고 수집한 증거를 공유해야 한다.
- 지원 및 조언을 구하기: 국가별 리벤지 포르노 지원 센터 등에 문의해 도움 및 상담을 받아본다. (출처: #NotYourPorn 캠페인)
한편 온라인 상에는 이런 딥페이크 영상의 수요와 공급이 만나는 시장이 존재한다. 자신의 아내나 이웃, 동료 심지어 어머니와 딸, 사촌을 합성한 영상을 만들어달라는 문의가 올라온다.
그럼 영상 제작자가 요청자에게 단계별로 어떤 영상이나 이미지가 필요한지 알려준 뒤 어떤 각도에서 찍으면 합성에 용이할지 조언하기도 한다. 물론 금액은 얼마인지 알려준다.
BBC는 영국 남동부에 살며 '고르켐'이라는 이름으로 딥페이크 콘텐츠를 제작하는 남성을 인터뷰했다. 처음엔 혼자만의 만족을 위해 유명 인사의 딥페이크 영상을 만들기 시작했다고 고백했다.
"(이런 영상을 통해) 이전에는 정말 불가능했던 방법으로 환상이 실현된다"는 설명이다.
그러다 고르켐은 잘 알지도 못하지만 관심이 가는 직장 여성 동료들을 합성하기 시작했다.
"(피해 여성 중) 한 명은 기혼 여성이고, 한 명은 남자친구가 있다"는 고르켐은 "이 여성들을 합성한 영상을 만들고 나니 처음엔 직장에 출근하기 조금 껄끄러웠다. 그러나 이내 아무 일도 없는 것처럼 행동할 수 있었고, 그 누구도 의심하지 않았다"고 말했다.
게다가 고르켐은 자신의 이 "취미"로 돈을 벌 수도 있다는 점을 깨닫고 난 뒤 돈을 받고 딥페이크 영상을 만들어주기 시작했다.
여성들이 SNS에 올리는 사진 등을 바탕으로 영상을 만든다고 했다. 심지어 최근엔 온라인 화상 회의 플랫폼인 'Zoom' 속 여성의 모습을 바탕으로 영상을 만들기도 했다고 한다.
"카메라를 바라보고 있는 모습이 담긴 영상이 많으면 좋은 데이터가 됩니다. 이러한 데이터를 바탕으로 알고리즘을 통해 얼굴을 본떠 원하는 영상에 넣는 과정을 거칩니다."
고르켐은 "일부 여성들이" 이러한 영상 때문에 심리적으로 피해를 볼 수 있다는 점을 인정하면서도 자신이 저지르는 이러한 성적 대상화가 잠재적으로 어떤 영향을 끼칠 수 있는지에 대해선 무관심한 듯했다.
"(피해 여성들은) 그냥 '이거 나 아니야. 이거 조작된 거야'라고 말하면 되죠. 그냥 그렇게 인식하고 살아가면 됩니다."
"도덕적으로 날 막을 수 있는 건 없다고 본다"는 고르켐은 "내가 만약 이런 영상을 만들어 수수료를 벌 수 있다면 나는 계속할 것이다. 아무것도 아니"라고 말했다.
한편 딥페이크 영상은 제작자의 수준과 기술에 따라 매우 정교하기도 하고 매우 쉽게 티가 나기도 한다.
그러나 이 가장 큰 딥페이크 포르노 웹사이트를 운영하는 어느 남성은 더 이상 영상의 합성 여부를 판별하기 쉽지 않다고 인정했다. 그가 운영하는 웹사이트에는 한 달에만 약 1300만 명이 방문하며, 한 번에 약 2만 개의 영상이 올라오기도 한다.
미국에 사는 이 남성은 인터뷰에 응하지 않지만, BBC와 익명으로 대화하는 것에 동의했다.
이 남성은 "일반" 여성을 합성하는 건 선을 넘는 행동이라면서도 유명 인사, SNS 인플루언서, 정치인 등의 얼굴을 딥페이크 음란물에 넣는 건 정당하다고 주장했다.
"이러한 사람들은 부정적인 미디어에 이미 익숙하고, 이들의 모습은 주류 언론에서도 쉽게 찾아볼 수 있다. 그렇기에 일반 시민과는 다르다"는 것이다.
"이러한 유명 인사들은 더 막대한 영향을 끼칠 수 있으니까요. 예를 들어 (일반인과 달리) 영상을 그냥 삭제해버릴 수도 있잖아요. (그래서) 이들의 동의가 필요하다고 생각하지 않습니다. 이건 환상이지 진짜가 아니잖아요."
자신이 하는 행동이 잘못됐다고 생각하진 않는지 물었다. 이에 이 남성은 마음속으로 일부에선 "영상이 여성에 미치는 영향을 부정한다"고 인정했다.
또한 아내에게 자신이 무슨 일을 하고 있는지 전혀 말하지 않았다고 한다.
"아내에게 말하지 않았어요. (말한다면) 아내에게 어떤 영향을 미칠지 두렵습니다."
한편 비교적 최근까지도 딥페이크 소프트웨어를 이용하기란 쉽지 않았기에 일반적인 사람이 쉽게 영상을 합성할 순 없었다. 그러나 이제 12살이 넘는 사람이라면 누구나 여러 애플리케이션을 내려받아 클릭 몇 번으로도 꽤 정교한 딥페이크 영상을 만들 수 있다.
아이작스는 이러한 상황이 정말 걱정되며 "진실로 두렵다"고 말했다.
"위험은 다크웹 같은 곳에 있는 게 아니라 앱스토어 등 우리 코앞에 도사리고 있습니다."
아이작스는 또한 영국의 '온라인 안전 법'이 기술 발전 속도를 따라가지 못하진 않을지 우려된다고 언급했다.
이 법안의 초안이 마련됐던 3년 전만 해도 딥페이크 영상 제작은 단순히 애플리케이션 몇 개를 다운로드 받아서 할 수 있는 게 아닌, 누군가 전문적인 훈련을 받아야만 할 수 있는 것으로 여겨졌다.
아이작스는 "이후 몇 년이 지났으며, [법안의] 내용은 이제 시대에 뒤떨어지게 됐다. 누락된 부분이 너무 많다"고 지적했다.
그러나 이러한 영상을 만드는 고르켐은 딥페이크 영상 제작이 범죄로 규정되면 상황이 바뀔 것이라고 했다.
"만약 온라인에서 추적당할 수 있다면 아마 (영상 제작을) 멈추고 다른 취미를 찾아볼 것"이라는 설명이다.
딥페이크 영상과 신상 털기를 겪으면서 아이작스는 건강도 나빠졌을 뿐만 아니라 이제 타인을 전처럼 믿지 못하게 됐다.
아이작스는 이러한 일을 꾸민 이들이 자신을 위협하고 모욕할 의도였을 뿐만 아니라 자신의 입을 다물게 할 생각이었다고 믿는다. 실제로 한동안 아이작스는 여성 혐오에 대해 자신이 계속 말하며 활동할 수 있는지 의문이 들어 캠페인 활동에서 물러나기도 했다.
하지만 지금 아이작스의 열정은 그 어느 때보다도 불타오르고 있었다. 인제 와서 물러날 수 없다는 것이다.
"저들이 이기도록 가만히 놔두지 않을 것입니다."
한편 아이작스는 딥페이크 영상이 여성을 통제할 용도로 사용될 수 있기에 '얼굴 바꾸기' 기능 등을 제공하는 애플리케이션을 만드는 기술 기업들은 안전장치를 마련해야 한다고 주장했다.
"어떤 앱이든 성적인 컨텐츠가 있진 않은지 탐지할 수 있어야 합니다."
"자신들이 만든 앱을 통해 성적 학대 콘텐츠가 제작되는 것을 방지하기 위해 돈, 자원, 시간을 투자하지 않았다면, 기업들은 고의로 무책임하게 행동한 것입니다."
"그렇다면 이들 기업에도 과실이 있습니다."
*BBC가 이번에 익명으로 취재한 고르켐과 딥페이크 웹사이트 운영자는 케이트 아이작스의 딥페이크 사건엔 관여되지 않은 것으로 보인다.
