딥페이크 불법합성물, 지난 1년간 71% 늘었다[플랫]

[경향신문]

이미지컷

지난해 6월 ‘성폭력범죄의 처벌 등에 관한 특례법’ 개정안 시행 이후 방송통신심의위원회(방심위)가 딥페이크(인공지능 기반 얼굴 합성 변조 기술)를 활용한 불법합성물 약 2000개를 차단·삭제 조치한 것으로 확인됐다. 1년 사이 월 평균 조치 건수는 91건에서 156건으로 약 71.4% 증가했다.

27일 경향신문이 국회 과학기술정보방송통신위원회 소속 김상희 의원(더불어민주당·국회부의장)을 통해 확보한 자료를 보면, 방심위가 지난해 6월부터 이달까지 차단·삭제 지시한 ‘딥페이크 성적 허위영상’(불법합성물) 수는 1956건에 이르는 것으로 나타났다. 연도별로 따지면 지난해 6~12월에는 548건, 올 1~9월에는 1408건이 차단·삭제 조치됐으며, 월 평균 조치 건수는 지난해 91건, 올해 156건으로 약 71.4%가 증가했다.

지난 1월 제4기 방심위원 임기 만료 이후 야당이 위원 추천을 거부하며 6개월 넘게 공백이 이어졌다는 점을 감안하면, 불법합성물 적발·조치 건수는 하반기에 더 증가할 것으로 예상된다고 김상희 의원실 관계자는 설명했다.

딥페이크 범죄 유형은 사회관계망서비스(SNS)와 채팅 메신저를 통해 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 불법합성물을 제작하는 사례가 다수를 차지했다.

김상희 의원실이 경찰청으로부터 제출받은 ‘불법합성물 집중 단속 주요 사례’에 따르면 전북에서는 2019년 10월부터 지난 1월까지 SNS로 의뢰받은 여성 23명의 개인정보와 사진을 딥페이크로 제작·유포한 A씨가 검거됐고, 부산에서는 2020년 6~7월 연예인 150여명의 얼굴을 딥페이크로 타인의 신체사진과 합성해 판매한 B씨와 C씨가 검거됐다. 대전에서는 지난 1월부터 3월까지 메신저로 구매자들에게 제작 의뢰를 받아 70여명의 연예인과 일반인의 사진을 불법합성해 판매한 혐의로 D씨가 경찰에 넘겨졌다.

앞서 경찰청은 지난해 12월부터 지난 4월까지 불법합성물 제작·유포 사범에 대한 집중 수사를 벌여 94명을 붙잡았다고 밝힌 바 있다. 검거된 피의자들의 연령대는 19세 미만이 69.1%(65명)로 가장 많았고 20대(18.1%·17명)가 그 뒤를 이었다. 인적사항이 확인된 피해자 연령대는 19세 미만 57.9%(66명), 20대 40.3%(46명), 30대 이상 1.8%(2명) 순이었다.

딥페이크 범죄에 대한 처벌은 지난해 6월25일 ‘성폭력범죄의 처벌 등에 관한 특례법’ 일부개정안이 시행되면서 강화됐다. 개정안은 딥페이크 영상물을 제작·반포·상영한 자를 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’으로, 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 ‘7년 이하의 징역’으로 가중 처벌하도록 했다. 그전까지는 불법합성물에 대한 처벌 규정이 미비해 명예훼손 또는 음란물 유포 등의 요건을 충족해야만 처벌할 수 있었다.

처벌은 강화됐지만, 딥페이크 범죄 적발 건수는 줄지 않고 있다. 가해자와 피해자 연령대도 계속해서 낮아지는 추세다. 이 때문에 피해 구제를 위한 기술 규제가 필요하다는 목소리가 나온다. 현행 ‘지능정보화 기본법’ 제31조와 제60조에 따르면 ‘인공지능(AI) 등 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고, 필요하다면 국가가 그 기술을 비상 정지’하게 되어 있지만, 이 같은 조치가 시행된 적은 단 한 건도 없었다. ‘사람의 생명 또는 신체에 대한 긴급한 위해’라는 조건이 현실과 동떨어져 개선책이 필요하다는 지적이다.

김상희 의원은 “현행법에는 AI를 악용하여 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”며 “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 말했다.

그간 딥페이크 기술에 대한 인식은 부정적 반응이 더 컸다. 성범죄에 악용된 사례가 많았기 때문이다.

최근 IT·게임업계에서 딥페이크 기술을 새롭게 활용하면서 이러한 인식에도 변화의 바람이 불고 있지만, 윤리적 문제나 범죄 위험에서 아직 완전히 자유롭지는 않다.https://t.co/eWaZWegjNj

— 플랫 (@flatflat38) September 27, 2021

▼
이유진 기자 yjleee@khan.kr

플랫팀 twitter.com/flatflat38