"딥페이크 성범죄 영상, 빠른 삭제 의무화해야"

방통위 성범죄영상물 토론회
미국 캘리포니아주 의회는
신고 접수 후 72시간 이내
플랫폼 삭제하도록 법 강화
정부, 내달 종합대책 발표

12일 양천구 방송회관에서 딥페이크 성범죄영상물 대응 전문가 토론회가 열렸다. 김호영기자

딥페이크 성범죄에 대한 처벌 수위를 높이고, 온라인 플랫폼에 딥페이크 확산 방지 의무를 부과해야 한다는 목소리가 커지고 있다. 인공지능(AI)으로 만든 진짜 같은 가짜 영상은 제작과 유통 속도가 빨라, 보다 강력한 조치를 통해 신속히 대응해야 한다는 의견에 힘이 실리고 있는 것이다. 최근 미국 캘리포니아에선 미성년자 성폭력 딥페이크 유통을 원천 차단하는 법안이 주 의회를 통과했다. 이 같은 세계적인 규제 행보는 AI 기술을 악용한 불법 영상물에 대한 경각심을 높이는 동시에 법적 제도 정비와 피해자 보호 조치 마련을 촉구하는 계기가 되고 있다.

방송통신위원회, 방송통신심의위원회, 시청자미디어재단은 최근 서울 목동 방송회관에서 '딥페이크 성범죄영상물 OUT! : 현안 진단과 대책 모색'을 주제로 토론회를 개최했다. 참석자들은 딥페이크의 심각성과 폐해를 공감하고, 차등 규제와 같은 법 제도 개선 방향에 대해 다양한 의견을 내놓았다. 특히 딥페이크 성범죄가 심각한 범죄행위라는 점을 사회적으로 인식하고, 행위자에 대한 형량 강화와 실효적 법 집행이 필요하다고 진단했다.

김태규 방통위원장 직무대행은 개회사에서 "최근 음란물에 지인 얼굴을 합성한 성적허위 영상물과 해당 피해자의 개인정보를 텔레그램 대화방을 통해 유포해 피해자를 고통스럽게 하는 사건이 발생했다"며 "급속도로 발전하는 AI의 역기능에 현명하게 대처하고 정보통신 이용자의 피해를 최소화하기 위해 우리 모두 합심해서 대응해야 한다"고 강조했다.

문성환 시청자미디어재단 미디어교육 정책부장은 "딥페이크를 통한 가짜뉴스는 그 정보가 조작됐다는 것을 사람들이 알게 되면 영향력이 소멸되는 경향이 있지만 성범죄물은 가짜라고 밝혀지더라도 유통이 더 활발하게 이뤄지는 경향이 있다"며 "아동·청소년 음란물에 대해 더 큰 규제가 필요하다고 생각하는 이유"라고 설명했다.

딥페이크 성범죄 영상이 심각한 사회적 문제로 대두했지만 현재 유튜브나 텔레그램 등 온라인 플랫폼에서 관련 콘텐츠를 완전히 뿌리 뽑지 못하고 있다. 이에 따라 플랫폼에 딥페이크 유통 방지 의무를 부과해야 한다는 의견에 힘이 실렸다.

정필운 한국교원대 교수는 "딥페이크 성범죄 영상물 대응에 대한 일정한 의무를 온라인 서비스 제공자(플랫폼)에 부과하고, 이를 위반한 경우 제재를 가할 필요가 있다"며 "온라인 서비스 제공자가 신속하게 딥페이크를 제거하고 대응할 수 있도록 협력 체계 구축도 필요하다"고 지적했다.

이에 대해 김우석 방통위 디지털유해정보대응과장은 "플랫폼들이 온라인상 불법 촬영물이나 딥페이크 영상물을 신속히 삭제·차단하는 방안을 담도록 법을 보완할 것"이라고 강조했다. 또 주요 사업자들이 불법촬영물 등을 삭제·차단한 내역이 담긴 '투명성보고서'를 정기적으로 제출하고 있는데, 방통위는 관련 보고서의 내용을 강화하고, 허위 작성 시 처벌할 수 있도록 법적 근거를 마련할 방침이다.

이 같은 정부의 정책 방향은 최근 미국 등 주요 국가의 규제 행보와 결을 같이한다. 최근 미국 캘리포니아주 의회는 미성년자 성폭력 딥페이크 제작과 유통을 방지하는 법안을 통과시켰다. 미성년자 딥페이크 성착취 콘텐츠를 제작한 사람은 물론 배포하거나 소지한 사람까지 처벌하는 것이 특징이다. 또 유통 채널인 플랫폼에 딥페이크 확산을 막도록 하는 의무를 부과하는 내용도 포함됐다. 신고를 접수하면 플랫폼이 72시간 내 관련 콘텐츠를 삭제해야 하는 것이 골자다.

다만 일각에선 플랫폼의 자율규제를 적극적으로 유도할 수 있는 환경을 만들어야 한다고 주장한다. 최경진 가천대 법학과 교수(한국인공지능법학회장)는 "규제로 인해 AI 발전 자체를 막는 형태보다는 지속 가능한 형태로 나아갈 수 있도록 규제 체계를 만들어야 한다"며 "가짜뉴스, 음란물, 아동·청소년 음란물 등 세부 영역별로 심각 정도를 고려해 규제 강도를 달리하는 형태로 개편해야 한다"고 설명했다. 정부는 딥페이크 성범죄 근절을 위해 태스크포스(TF)를 꾸리고, 다음달 종합대책을 발표할 계획이다.

[김대기 기자]