[시대리포트]"딥페이크 처벌 앞서 제작·유통 막을 규제 필요"

[혐오와 조롱에 짓밟히는 인격권③ 끝]
법조계 "형량보다 예방 시스템 구축 필요" 한목소리
해외 플랫폼에서 대량 유통 …"국제 공조수사 역량 중요"

[편집자주] 국회의원을 겨냥한 모욕적 딥페이크 이미지 유포 사건 등은 극단적인 '증오 정치'의 민낯을 보여준다. 진영 논리에 매몰돼 인간의 존엄마저 짓밟는 행위까지 정치적 표현의 자유라고 감쌀 순 없다. 재발 방지를 위해 피해 국회의원의 양해를 얻어 정치권에 요구되는 노력과 제도적 대안들을 짚어본다.

최근 정치권을 둘러싸고 딥페이크 성범죄 처벌 강화에 대한 목소리가 커지고 있다. 법조계에선 처벌 강화와 함께 사전예방적 체계 구축 및 국제 공조수사 역량 강화가 필요하다고 강조한다. /그래픽=강지호 기자

최근 이언주 더불어민주당 의원(3선·경기 용인시정)을 겨냥한 딥페이크 범죄는 단순히 한 정치인을 향한 폭력에 그치지 않았다. AI 기술이 개인의 얼굴과 신체, 음성 등을 임의로 조작해 명예훼손과 허위 조작 정보 유포는 물론, 성범죄로까지 얼마나 손쉽게 악용될 수 있는지를 보여준 사건이다. 정치인의 인격을 짓밟는 딥페이크 범죄를 뿌리 뽑기 위해 정치권 스스로의 자정 노력이 필요하지만, 실질적으로 범죄 예방을 위해 어떤 대안이 있는지 전문가들의 목소리를 들어봤다.

국회는 2024년 성폭력처벌법을 개정해 이른바 '딥페이크 처벌법'을 만들었다. 다만 현행 성폭력처벌법은 AI 기반 딥페이크 범죄를 전제로 만들어진 법이 아니어서 여러 한계를 보이고 있다. '허위영상물 제작·편집 처벌 규정'이 딥페이크 범죄에도 적용되고 있지만, AI를 이용해 누구나 쉽게 영상을 제작하고 빠르게 퍼트릴 수 있는 현재의 범죄 양상을 충분히 반영하지 못하고 있는 것이다.

장용호 변호사(법무법인 일로)는 "현재 성폭력처벌법에서의 처벌 규정은 성적 허위 영상물 중심으로 설계돼 있다"며 "딥페이크 허위정보 유포나 사기 목적의 AI 합성물처럼 성범죄가 아닌 영역까지로 확대되는 범죄를 충분히 담아내지 못한다"고 강조했다. 입법이 AI 기술의 발전 속도를 따라가지 못하는 만큼 제도 전반을 다시 설계할 필요가 있다는 것이 전문가들의 지적이다.

━

미국은 AI로 아동 성착취물 만들면 사전신고 의무화

━

다만 처벌 강화 못지않게 사전 예방에 국가적 역량을 쏟을 필요가 있다. 딥페이크는 한번 온라인에 유포되면 복제와 재유포가 반복돼 사실상 완전한 삭제가 어렵기 때문이다.

박경선 변호사(법무법인YK)는 "현행 제도는 피해가 발생하고 나서야 대응하는 사후 처벌 중심"이라며 "실제 피해자 입장에선 가해자가 처벌되는 것보다 애초에 영상이 만들어지지 않고 유통되지 않도록 하는 것이 훨씬 중요하다"고 말했다.

전문가들이 대안으로 제시한 건 딥페이크 콘텐츠가 유통되는 플랫폼의 책임 강화다.

현재 딥페이크 범죄 상당수는 해외 플랫폼을 통해 제작·유통되고 있는 것으로 알려졌다. 대표적인 플랫폼은 텔레그램이다. 문제는 텔레그램과 같은 해외 사업자들이 국내 수사 당국의 자료 제출 요청에 소극적이라는 점이다. 수사 초기부터 범인 추적이나 증거 확보가 어렵다는 것이다.

이 때문에 국내외 플랫폼에 딥페이크 범죄 근절을 위한 사회적 책임을 부과해야 한다는 주장이 나온다. AI로 합성한 이미지나 영상, 음성 등에 'AI가 제작했음'을 알려주는 워터마크를 자동으로 붙이는 방안 등이 현실적 대안으로 거론된다.

다만 플랫폼이 개인 메신저를 실시간 모니터링한다면 표현의 자유나 사생활 침해 논란을 불러일으킬 수 있는 만큼 대량 유포에 한해서만 개입하는 등의 기준은 반드시 필요하다. 박경선 변호사는 "인터넷 포털이나 블로그 등 공개 플랫폼에서라도 워터마크 자동 생성이나 AI 탐지 알고리즘 적용 등을 충분히 검토해볼 수 있다"고 말했다.

미국에선 AI 업체들이 아동 성착취물을 만드는 것을 발견하면 미국 실종·학대아동센터(NCMEC)에 신고할 의무가 있다. AI 업체가 딥페이크를 포함해 범죄 가능성을 인지한 경우 사전 조처토록 한 것이다. 우리나라도 사후약방문식 처벌에서 벗어나 이런 사전 조치가 필요하다는 주장이다.

/그래픽=강지호 기자

━

전문 수사인력 양성하고 국제 공조수사 체계 마련해야

━

플랫폼의 책임 강화와 함께 요구되는 것이 전문수사 체계와 국제 공조 역량 강화다.

딥페이크 범죄는 AI 기술뿐 아니라 해외 서버와 암호화를 동시에 활용하는 대표적인 디지털 범죄다. 그러나 일선 수사기관은 해외 플랫폼이 관련 자료 제공을 거부하면 사실상 수사를 이어가기 어려운 게 현실이다. 가해자 처벌을 강화하는 동시에 신속한 피해자 구제에 나서려면 수사 전문성을 키워야 하는 것이다.

장용호 변호사는 "빠르게 고도화되는 딥페이크 범죄 수법에 대응하기엔 기존 수사 방식만으론 한계가 있다"며 "전문수사관을 별도로 육성하거나 디지털 성범죄 전문 트랙을 신설하는 등 전문성을 높이는 방향으로 제도를 보완할 필요가 있다"고 했다.

이은의 변호사는 "입법이 기술 발전 속도를 따라가기 어려운 게 현실이지만, 더 큰 문제는 이미 있는 처벌 규정조차 현장에서 제대로 적용하지 못하는 경우가 많다는 점"이라며 "실제 수사 현장에선 딥페이크 범죄의 특성과 온라인 유통 구조를 제대로 이해하지 못한 경우도 있다. 결국 수사 인력의 경험 축적이 함께 이뤄져야 기존에 갖춰진 법이라도 제대로 작동할 수 있다"고 지적했다.

해외 플랫폼에 대한 수사 속도를 높이기 위한 국제공조 역량 강화를 주문하는 전문가들도 많다.

오정익 변호사는 "딥페이크 사건은 결국 해외 플랫폼 및 사업자를 상대로 국제공조 수사를 진행해야 하는 경우가 많다"며 "국가마다 법체계와 기준이 다르기 때문에 속도감 있게 수사를 진행하려면 담당자가 지금보다 더 적극적으로 나서야 한다"고 말했다.

박경선 변호사도 "검경 수사권 조정 이후 경찰 내부의 수사 인력이 부족한 점 역시 딥페이크 범죄 대응력을 떨어뜨리는 요인 중 하나"라며 "개별 수사관이 아닌 경찰청 차원의 국제공조 체계를 구축하는 것이 새로운 처벌 조항을 만드는 것보다 더 시급하고 현실적인 과제"라고 진단했다.

유찬우 기자 coldmilk99@sidae.com