유명 걸그룹 멤버가 성생활 인터뷰?…실체 알고 보니 '발칵'

딥페이크물 대상은 1020女·걸그룹
2000차례 넘게 유포했지만 '집유'
10대 여동생 사진으로 제작·유포도
"플랫폼 내 탐지·삭제 장치" 제안

사진=게티이미지뱅크

세계적으로 이름을 알린 유명 걸그룹 멤버가 자신의 성생활을 주제로 인터뷰를 진행한 영상이 지금도 어렵지 않게 눈에 띈다. 딥페이크 기술로 만든 허위 영상이다. 이 영상은 수준 높은 완성도를 자랑한다. 실제로 해당 멤버가 자신의 성적 취향을 털어놓은 것처럼 보일 정도다. 한 텔레그램 대화방에 2개월 전 올라온 게시물이지만 여전히 누구든 볼 수 있는 상태로 방치돼 있다. 

조금만 공들여 찾으면 '겹지방', '지인능욕방'과 같은 텔레그램 대화방들이 보이기 시작한다. 이들 대화방에선 '능욕'을 목적으로 10~20대 여성들의 얼굴과 학교, 휴대전화 번호, 카카오톡 아이디 등의 개인정보가 낱낱이 공유됐다. 얼굴 사진으로 성행위를 하는 허위 영상을 제작해 달라는 요청도 함께다.

딥페이크물 2000번 넘게 유포…법원선 '집유'

수년간, 심지어 현재까지도 이와 같은 대화방과 딥페이크물이 계속해서 방치·유포되고 있는 이유는 처벌이 약한 현실과 무관하지 않다는 지적도 나온다. 사건마다 다르겠지만 최근 텔레그램 대화방에서 딥페이크 영상을 제작·유포한 혐의를 다룬 판결을 보면 철창신세를 면하는 사례가 적지 않은 것으로 파악됐다.

부산지법 서부지원에선 지난 4월 10대 여성 청소년 등 4명의 인스타그램에 게시된 사진을 활용해 딥페이크 영상을 만든 다음 유포한 10대 남학생이 징역 1년에 집행유예 2년을 선고받았다. 가해남성은 텔레그램 대화방에서 총 7차례에 걸쳐 허위 영상을 유포했다. 

당시 법원은 "죄책이 가볍지 않고 피해자들이 처벌을 원하고 있다"면서도 "(가해자의) 나이가 만 19세로 비교적 어리고 재범하지 않겠다고 다짐하고 있다"고 양형 이유를 밝혔다.

20대 여성의 인스타그램 사진으로 딥페이크 영상을 만들고 수십차례에 걸쳐 이를 유포한 가해자도 징역 1년 6개월에 집행유예 2년을 선고받았다. 피해자들이 직접 음란한 소셜미디어 계정을 운영하는 것처럼 만들고 실명과 인적사항도 게시했지만 가해자가 성년이 된 지 얼마 되지 않은 나이인 데다 초범인 점을 고려한 결과다. 

3년간 2132차례에 걸쳐 10~20대 여성이 성행위를 하는 것처럼 보이는 사진·영상을 제작하고 이를 2027차례 유포한 가해자는 징역 3년에 집행유예 4년을 선고받고 철창신세를 면했다. 이 사건의 경우 딥페이크보다 단순 합성을 한 것으로 보이는데 "합성 수준이 그리 높지 않아 인위적인 것임을 눈치 챌 수 있는 것들이 대부분"이라는 점이 양형 이유로 꼽혔다. 

실형 선고 형량은 징역 1~2년…피해는 '눈덩이'

최근 판결만 보면 실형이 선고된 경우엔 대체로 징역 1~2년형으로 나타났다. 서울중앙지법에서 지난 28일 '서울대 N번방' 사건 공범에게 징역 5년을 선고한 것이 눈에 띌 정도다. 

10대 이종사촌 여동생 인스타그램 사진으로 딥페이크물을 제작해 자신이 운영하던 대화방에 유포한 가해자는 징역 2년에 처해졌다. 가해자 측 부모가 정신과적 치료 등 적극적으로 선도하겠다면서 선처를 호소한 점이 양형 이유 중 하나로 거론됐다.

딥페이크 영상 하나당 5000원을 받고 판매한 가해자, 8만여명이 참여한 텔레그램 대화방에 가수 얼굴과 성행위 사진을 딥페이크로 합성한 가해자에겐 각각 징역 1년·2년이 선고됐다. 

경찰청에 따르면 2021년 이후 지난달까지 딥페이크 성범죄 피의자 461명 가운데 325명은 10대로 조사됐다. 교육청이 지난 1월부터 이달 27일까지 집계한 결과를 보면 학생·교원의 딥페이크 피해 건수는 총 196건으로 나타났다. 이 중 학생 피해가 186건에 달했다. 디지털성범죄피해자지원센터는 2018년 4월 이후부터 지난 25일까지 딥페이크 피해 지원에 나선 건수가 2154건에 이른다고 밝혔다. 

카카오톡 서비스 내 딥페이크물 실시간 탐지·제한 예시 화면. 사진=2024 한국정보기술학회 하계 종합학술대회 논문집 갈무리

네카오, 신고센터 개설…3일간 관련 법안만 12건 

전문가들은 플랫폼 안에서 딥페이크물을 즉각 신고할 수 있는 기능이 있어야 한다고 입을 모았다. 국내 플랫폼 기업들은 딥페이크 범죄가 논란이 되자 부랴부랴 신고채널을 만들었다. 

네이버는 지난 28일 고객센터를 통해 딥페이크물을 발견할 경우 신고 채널로 접수해줄 것을 당부했다. 카카오도 같은 날 자사 서비스 안에서 딥페이크물이 발견되면 즉각 신고해줄 것을 당부하면서 관련 링크를 안내했다. 

국회 의안정보시스템에 따르면 지난 27일부터 29일까지 '딥페이크' 키워드를 포함한 법안은 총 12건 발의됐다. 딥페이크물을 구입 목적과 상관없이 편집·합성·가공·소지·구입·저장·시청하는 행위를 처벌하고 정보통신서비스 제공자가 자사 영역 내 딥페이크물에 대해 즉각적 조치를 취하지 않을 경우 처벌하는 내용이다. 

학계선 딥페이크물 '실시간 탐지·제어' 방안 제시

학계에선 사용자들이 딥페이크물을 간편하게 신고할 수 있는 방안이 일찌감치 언급됐다. 지난 5월 한국정보기술학회 학술대회에선 유튜브·텔레그램·카카오톡 오픈채팅방 등에 올라오는 영상의 딥페이크물 여부를 실시간으로 분석해 시청 제한·삭제 조치하고 사용자가 직접 이를 신고할 수 있는 시스템 예시가 제시됐다. 

당시 학회에선 "이미 불법 음란물 유통망에는 주로 연예인과 같은 유명인을 대상으로 그와 닮은 형태의 음란물을 생성형 AI로 제작해 거래하는 사례가 종종 발견되고 있다"며 "이런 경우는 영상물의 대상이 된 피해자가 존재하기 때문에 일반 음란물보다 가중된 처벌을 위해 특별법을 적용하는 것을 검토할 필요가 있다"는 주장도 나왔다. 

국민의힘과 정부는 딥페이크 성범죄를 처벌하는 허위영상물 유포 등의 형량을 최대 징역 5년에서 7년으로 상향하는 방안을 추진하기로 했다. 대표적인 딥페이크물 유통 플랫폼인 텔레그램과 상시 협의가 이뤄질 수 있는 핫라인을 확보하는 방안도 추진한다. 

김민호 성균관대 법학전문대학원 교수는 학회지 '토지공법연구'를 통해 "현재 진행형인 딥페이크 기술로 인한 문제에 대해 정부, 개발자, 이용자들이 함께 인공지능 기술의 개발과 이용을 감독하고 가짜 정보로부터 피해를 방지하기 위한 적극적인 정책 마련이 필요하다"고 주장했다. 

김대영 한경닷컴 기자 kdy@hankyung.com