“교황이 흰색 롱패딩 입고 나타났다” 전세계 발칵…딥페이크 한국도 습격, 여야 모처럼 ‘합심’

피사체 의상 벗기는 AI 프로그램 다수 확인
6년 전 연간 69건…올해는 8월까지 781건
윤석열 대통령 “명백한 범죄, 누구나 피해자”
한동훈 “촉법소년 연령 하향”…野도 법 발의

흰색 롱패딩을 입고 있는 프란치스코 교황(왼쪽)과 경찰에 체포되는 도널드 트럼프 전 미국 대통령(오른쪽)의 모습. 해당 사진들은 모두 인공지능(AI) 기술을 활용해 제작된 ‘딥페이크’ 사례다. [사진 출처 = 엑스(구 트위터) 캡처]

‘남의 나라’ 이야기라고 가볍게 치부됐다. 프란치스코 교황이 흰색 롱패딩 점퍼를 입은 사진, 도널드 트럼프 전 미국 대통령이 뉴욕경찰(NYPD)에 체포되는 사진이 온라인에 공유될 때까지만 해도 그랬다. 일각에서는 ‘유쾌한 발전’이라는 반응까지 나왔다.

그랬던 인공지능(AI) 기술이 한국 사회의 그림자가 된 건 한순간이었다. 전국 각지에서 ‘딥페이크(Deepfake)’로 말미암은 사건들이 발생했고, 초등학생 중에서도 피해 사례가 확인됐다. 걷잡을 수 없는 딥페이크의 공격에 검경은 물론, 정치권까지 팔을 걷어붙이고 나섰다.

딥페이크는 AI 기술을 활용해 기존 인물의 얼굴이나 특정 신체 부위 등을 합성한 영상 편집물을 의미한다. AI 심층 학습을 뜻하는 ‘딥러닝(Deep Learning)’과 가짜라는 뜻의 ‘페이크(Fake)’를 더한 표현이다. 최근 국내에서는 이를 활용한 디지털 성범죄가 잇따르고 있다.

여성가족부 산하 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터가 2018년 4월부터 지난달 25일까지 딥페이크 피해 지원에 나선 건수는 2154건에 이른다. 피해 지원 건수는 2018년 69건에서 올해(8월 25일 기준) 781건으로 11배 넘게 급증했다.

국내외 주요 포털과 온라인 커뮤니티 등에서는 디지털 성범죄에 해당하는 딥페이크를 만들 수 있는 프로그램을 어렵지 않게 찾아볼 수 있다. 매경닷컴은 해당 프로그램과 웹사이트가 디지털 성범죄 등에 악용될 소지를 고려해 세부 내용을 비공개한다. [이상현 기자]

전문가들은 딥페이크 사진·영상 제작에 대한 접근성이 과도하게 좋다는 점을 지적하고 있다. 실제로 매경닷컴이 국내외 주요 포털과 온라인 커뮤니티 등에서 디지털 성범죄에 해당하는 딥페이크를 만들 수 있는 프로그램을 직접 확인하기까지 2분이 채 걸리지 않았다.

한 국내 주요 웹사이트에서는 모 AI 프로그램을 사용해 피사체의 의상을 벗기는 방법이 지난 2022년 11월(게시일 기준)부터 사용자들 간에 공유된 것으로 나타났다. 또 다른 국내 대형 포털에서도 지난해 말부터 관련 게시물이 수십건 게재된 정황이 드러났다.

사용자들 간에 공유된 AI 프로그램과 홈페이지 등은 대체로 정기 결제(일·주·월 단위 선택 가능) 방식을 채택했다. 일부는 사용자가 인기 가상화폐로도 결제할 수 있게 하는 등 체계 아닌 체계를 갖췄다. 사진의 크기나 화질 등에 따라 결제 금액도 상이한 것으로 나타났다.

디지털 성범죄에 악용될 소지가 다분한 프로그램들이 만연함에도 사용이 제한되거나, 본인 인증을 요구하거나, 경고문구가 등장한 적은 없었다. 오히려 한 플랫폼의 “사용자의 선호도와 환상을 고려한 개인화된 경험을 제공한다”는 홍보 문구가 팝업으로 한 차례 등장했다.

제작이 손쉬운 점도 문제지만, 유통 과정 단속이 어렵다는 것도 문제다. 사이버범죄수사대 근무 경력이 있는 한 경찰관은 “텔레그램 등 기본적으로 보안이 강력한 애플리케이션(앱) 때문에 딥페이크 수사가 만만치 않을 것”이라며 “마약류가 급속도로 확산한 것도 비슷한 맥락”이라고 진단했다.

지난달 30일 오전 대전 서구 대전경찰청에서 대전 경찰과 대전시, 대전시교육청 등 유관기관 관계자들이 모여 딥페이크 성 착취물 관련 범죄 집중단속 회의를 하고 있다. [사진 출처 = 연합뉴스]

이 경찰관은 사이버 공간의 폐쇄성 때문에 “수사 시작 단계부터 어렵다. 제가 지금 수사한다면 대화방 일일이 찾아다니면서 단서를 쫓을 텐데 시간이 오래 걸릴 것”이라며 “그렇게 한두 명 붙잡는 동안에 다른 피해자가 속출할 가능성도 있다”고 우려했다.

범행을 저지른 이를 체포한다고 사건이 제대로 마무리되는 것도 아니다. 현행법(성폭력범죄의 처벌 등에 관한 특례법)은 딥페이크를 비롯한 허위 영상물을 반포할 목적으로 편집·합성·가공한 경우에만 처벌하도록 한다. 즉, 유포 목적이 입증돼야 한다는 것이다.

타인이 제작한 딥페이크를 시청·소지한 경우에 대해선 처벌할 기준이 없다는 점도 사각지대로 꼽힌다. 또 다른 경찰 관계자는 “잡는 것도 어려운 데 잡아도 혐의 입증이 어렵고, 애초에 잡을 수 없는 이들도 있다는 의미”라며 “(국회에서) 법 개정을 서둘러주셔야 한다”고 당부했다.

정치권 역시 이같은 동향을 인지, 여야 구분 없이 합심해 딥페이크 강력 처벌과 피해자 지원을 위한 조치 마련에 나서는 분위기다. 여야 간 공감대가 형성된 만큼 큰 이견이나 별다른 충돌 없이 관련 법안들이 속속 본회의를 통과할 것으로 전망된다.

지난달 30일 정부서울청사 앞에서 열린 ‘딥페이크 성범죄 규탄 여성ㆍ엄마들의 기자회견’에서 참가자들이 손팻말을 들고 있다. [사진 출처 = 연합뉴스]

윤석열 대통령은 지난달 27일 국무회의 모두발언에서 “딥페이크 영상물은 단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 말했다.

법무부 장관이었던 한동훈 국민의힘 대표의 경우 “그거(딥페이크를 통한 디지털 성범죄물 제작) 하는 분들 중, 혹시 하고 싶어하는 분들 중에서 촉법소년 연령에 있는 분들도 많을 것”이라며 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”고 지적했다.

또 더불어민주당은 한정애 의원 주도로 딥페이크 등 허위 영상물을 소지·구입·저장·시청한 자까지 모두 처벌하도록 하는 성폭력범죄처벌법 개정안을 발의했다. 같은 당 김남희·김한규·황명선 의원도 유사한 내용의 법안을 발의했다.

국회 여성가족위원회 역시 오는 4일 전체회의에서 딥페이크 성범죄 문제와 관련해 정부 부처를 대상으로 현안 질의를 진행한다. 이인선 위원장과 여가위 여야 간사(서범수·김한규 의원)는 지난달 27일 이와 관련, “문제의 심각성을 강력히 경고하고 단호히 대처할 것”이라고 밝혔다.