“직장 동료를 믿나요?”...휴대폰에 아동 성착취물 1만개, 내 얼굴 합성 음란물까지 [저격]

‘딥페이크’(deepfake) [자료=연합뉴스]

[저격-42] 최근 텔레그램 등 소셜네트워크서비스(SNS)를 통해 초등학생부터 군인까지 대상을 가리지 않고 무차별적으로 불법 합성물이 유포되고 있다. 텔레그램에는 전국 초·중·고·대학의 이름이나 ‘지능방(지인능욕방)’ ‘겹(겹치는)지인방’ 등의 이름으로 딥페이크(인공지능 기반의 사람 이미지 합성 기술) 합성물을 제작·유포하는 불법 대화방이 우후죽순격으로 생겼다.

이러한 와중에 직장동료 등 주변 지인의 얼굴을 음란물에 합성해 텔레그램에 유포한 딥페이크 피의자가 경찰에 덜미를 잡혔다. 경찰이 피의자의 휴대폰을 털었더니, 직접 제작한 딥페이크 영상 외에 아동·청소년 성착취물이 1만 개 가까이 발견된 것으로 확인됐다.

경찰에 따르면, 서울경찰청 사이버수사과 허위영상물 집중대응 태스크포스(TF)는 지난 12일 청소년성보호법 위반 등 혐의로 30대 남성 A씨를 구속 송치했다.

A씨는 지난해 12월부터 올해 7월까지 미성년자 포함 지인 24명의 얼굴 사진을 음란물에 합성해 허위영상물 128개를 제작한 혐의를 받는다. 경찰 조사 결과 A씨는 자신의 성적 욕망을 충족시키기 위해 직장동료 등 평소 친분이 있는 주변인을 범행 대상으로 삼았다. 딥페이크 영상은 텔레그램 인공지능(AI) 합성 봇을 이용해 제작했다.

올해 들어 딥페이크 성범죄 피의자 318명이 경찰에 붙잡혔다. 경찰청은 지난 11일 딥페이크 성범죄 사건 수사 현황과 관련해 “현재 513건을 수사 중이며 전날까지 318명의 피의자를 검거했다”고 밝혔다.

경찰에 따르면 올해 1월부터 지난 10일까지 검거된 딥페이크 성범죄 피의자 318명 중 10대가 251명에 이른다. 이 가운데 만 14세 미만 소년범인 촉법소년은 63명으로 나타났다. 20대는 57명이며, 30대는 9명이다. 40대도 1명 붙잡혔다.

한편 경찰은 딥페이크 성범죄와 관련해 범죄 창구로 활용되고 있는 보안 메신저 텔레그램의 대표 등에 대해 혐의가 입증되면 입건은 물론 국제 공조를 통해 강제 수사에 나서는 방안도 검토 중이다.

현재 경찰은 텔레그램에 대해 성폭력범죄 처벌특례법상 방조 혐의 등으로 입건 전 조사를 진행하고 있다.

김봉식 서울경찰청장은 지난 9일 기자간담회에서 “(딥페이크 성범죄) 영상물이 유포되고 있는 텔레그램에 대해 입건 전 조사(내사)에 착수했고 현재 사실관계와 법리 검토를 진행하고 있다”며 “구체적인 혐의와 범죄 사실이 특정되면 입건으로 전환해 국제공조 등 필요한 절차를 진행할 예정”이라고 밝혔다. 내사 결과 혐의가 있다고 판단되면 텔레그램 대표 등도 입건할 수 있다는 설명이다.

불법 딥페이크 복제 삭제 전문인력 자원 턱없이 부족

딥페이크 불법 음란물 문제가 우리 사회 문제로 떠오른 가운데 불법 콘텐츠를 삭제하는 전문인력 자원이 부족하단 지적이 나오고 있다.

지난 11일 디지털성범죄피해자지원센터에 따르면 올해 6월 기준 불법 콘텐츠 삭제지원 건수는 16만5365건에 달한다. 2018년 개소 후 지원 피해자 수와 삭제 건수는 꾸준히 증가하고 있다. 최근 3년간 추이를 보면 △2021년 피해자 6952명·삭제 건수 16만9820건 △2022년 피해자 7979명·삭제 건수 21만3602건 △2023년 피해자 8983명·삭제 건수 24만5416건 등이다. 여기에는 딥페이크 콘텐츠뿐만 아니라 실제 촬영물 등도 포함된다.

올해 상반기까지 피해자는 이미 7425명으로 집계됐다. 연말까지 피해자와 삭제 건수는 지난해를 뛰어넘을 것으로 보인다.

국내 합성 콘텐츠를 모니터링해 삭제하는 공적기관은 방송통신심의위원회와 한국여성정책진흥원 내 디지털성범죄피해자지원센터(디성센터)에 불과하다. 특히 디성센터 내 인력은 2020년 67명에서 2021년 39명으로 감소한 뒤 충원되지 않고 있다.

이 중에서 삭제 지원만을 전담하는 팀은 15명에 불과하다. 15명이 연간 대략 20만건에 이르는 콘텐츠를 삭제하고 있는 셈이다. 이조차 대부분 비정규직 근로자가 담당하고 있어 업무가 숙달될만하면 다시 새로운 인력으로 대체되는 상황에 놓이기도 한다.

“딥페이크 성범죄 영상, 인격 완전히 상실시켜…강력 규제 필요”

“최근 딥페이크는 쉽고 빨리 정교하게 만들어낼 수 있어 성범죄 영상물을 만들어내는 데도 비용이 안 드는 데 문제가 있다. 또 무한정 확산하는 과정에서 회복 불가능한 피해가 생겨난다.”

최경진 가천대 법과대학 교수는 지난 12일 서울 양천구 목동 방송회관에서 방송통신위원회·방송통신심의위원회·시청자미디어재단 주최로 열린 딥페이크 성범죄 영상물 대응 전문가 토론회 발제자로 나서 이같이 밝혔다.

그러면서 “단순한 음란물도 문제지만 딥페이크 성범죄 영상은 특정 인물의 이미지를 활용하기 때문에 본질적인 인격을 파괴하고 완전히 상실시킬 수 있다”며 “특히 아동·청소년을 보호하기 위한 강력한 제재가 필요하다”고 했다.

최 교수는 또 AI의 역기능으로 딥페이크 음란물뿐만 아니라 지식재산권 침해, 개인정보 프라이버시 침해, 혐오·차별·편향 등 윤리 문제와 인권침해, AI 피싱, 가짜뉴스 등을 꼽았다.

그러면서 법 제도 개선 방향에 대해 AI가 가져오는 부작용이나 폐해를 정확히 파악하고, 과대평가나 과소평가는 모두 지양하면서 AI가 실제 적용되는 분야의 특성과 구체적 위험성을 고려한 비례적 규제 체계를 정립해야 한다고 강조했다.

정필운 한국교원대 일반사회교육과 교수는 “딥페이크 성범죄 영상물을 탐지하는 기술 개발에 대한 국가 지원, 디지털 역량 강화 교육 기반 조성, 온라인 서비스 제공자의 자율규제 유도 및 의무 부과와 제재, 가해자 형벌 강화 등이 필요하다”고 밝혔다.

그러면서 국내와 국외 사업자에 대한 ‘비대칭 규제’에 대한 전향적 인식 변화도 필요하다고 강조했다.

이어진 토론에서 문성환 시청자미디어재단 미디어교육정책부장은 “딥페이크 성범죄 영상물 근절을 위해서는 사회·학교·가정 모두의 협력적 대응이 필요하며 특히 미디어 리터러시 교육이 중요하다. 사후 대응보다 예방이 근본 해결책”이라고 강조했다.