[시시비비]딥페이크 범죄와의 전쟁

한국 딥페이크 음란물 가장 취약
성범죄 플랫폼 대부분 텔레그램
불법 콘텐츠 삭제 의무 부여해야

며칠 전 중학생 딸아이가 식사 중에도 휴대폰을 놓지 못하며 바쁜 손놀림을 보이길래 뭐 하는 거냐고 물었다. 살짝 톤이 높아진 목소리에 딸아이는 폰을 보여주며 자신의 사회관계망서비스(SNS)에 올려놨었던 본인과 친구들 사진 전부를 내리는 중이라고 했다. 그러면서 일명 ‘털린 학교’라는 명단을 보여주기도 했다. 딸아이는 비공개로 돌려도 사진을 해킹한 뒤 딥페이크로 재생산해 텔레그램 방에 판다는 소문까지 돌아 두렵다고 했다.

과거에는 가수나 배우 등 여자 연예인을 대상으로 했던 딥페이크 성범죄가 문제가 되곤 했다. 하지만 이제는 우리 주변의 이웃은 물론 심지어 미성년 가족을 대상으로 한 딥페이크 영상이 나타나고 있다. 인공지능(AI) 등 기술의 발전으로 누구든지 손쉽게 딥페이크 영상을 만들 수 있게 되면서 누구나 딥페이크 피해자가 될 수 있다는 얘기다. 딸자식을 둔 부모의 입장에서는 섬뜩할 수밖에 없다.

심지어 한국이 세계에서 딥페이크 음란 콘텐츠에 가장 취약한 국가라는 해외 보안업체의 보고서까지 나온 실정이다. 미국 사이버보안 업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크 제작물 현황’ 보고서에 따르면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 플랫폼 85개 채널에 올라온 영상 9만5820건을 분석한 결과 딥페이크 제작물에 등장한 사람 중 53%가 한국 국적으로 가장 많았다. 특히 딥페이크 음란물 제작에 가장 많이 활용된 세계 상위 10명 중 8명이 한국인이었다. 보고서는 "한국은 딥페이크 음란물의 가장 큰 표적이 되는 나라"라며 "특히 노골적인 성격의 딥페이크 제작물에 더 취약하다"고 짚었다.

2019년 ‘N번방’ 사태에 이어 가장 최근의 일명 ‘지인 능욕방’까지 소셜 미디어 관련 성범죄자들이 이용한 플랫폼은 대부분 텔레그램이었다. 특히 앞서 5월엔 서울대 졸업생들이 동문인 여학생을 포함해 수십 명의 사진으로 불법 합성물을 제작해 텔레그램에서 유포한 사건도 있었다. 이른바 ‘서울대 N번방’으로 불린 이 사건의 여성 피해자는 60명이 넘는다.

딥페이크로 인한 범죄 피해는 국내뿐만이 아니다. 결국 프랑스 당국은 디지털 성범죄 영상물의 주 유통경로로 전락한 텔레그램의 창업자 파벨 두로프를 지난주 체포해 기소했다. 플랫폼 사용자의 불법 행위를 막지 않고 프랑스 사법부의 협조 요청을 무시한 혐의다. 텔레그램은 한국 정부의 성범죄 관련 수사 협조 요청에도 한 번도 응한 적이 없다. 프랑스의 에마뉘엘 마크롱 대통령은 "법치 국가에서 자유는 소셜미디어와 현실 생활 모두에서 법적 틀 안에서 지켜진다"고 강조했다.

미국에선 대선을 앞두고 인공지능(AI)의 정교한 이미지 생성 기능을 활용한 가짜 사진 확산이 선거 혼란을 부추기고 있다. 미국 팝스타 테일러 스위프트와 그의 팬들이 공화당 대선 후보 도널드 트럼프 전 대통령 지지를 표하는 것처럼 조작된 가짜 사진이 떠도는가 하면, 비키니를 입은 미모의 여성 수십 명의 사진도 마찬가지로 도용돼 가짜 SNS 계정에 사용됐다.

사전적 의미로 ‘사실’은 ‘실제로 있었던 일’ 자체를 말하고 ‘진실’은 ‘거짓이 없는 사실’을 의미한다. 하지만 이제는 내가 하지 않은 말과 행동, 즉 ‘사실’을 만들어 내기가 매우 쉽고 저렴해진 시대가 됐다. 사실이 사라진다면 진실도 무너지게 된다. 플랫폼에 불법 콘텐츠에 대한 삭제 의무를 부여하고 책임을 강화해야 한다는 목소리가 커질 수밖에 없는 이유다.

조강욱 국제부장 jomarok@asiae.co.kr