딥페이크 성범죄 일어나는 플랫폼은 어떻게 해야 할까

방송통신위원회·방송통신심의위원회·시청자미디어재단 주최 딥페이크 대응 토론회
"딥페이크 성범죄물 징역 5년 혹은 7년? 더 강화해야" 플랫폼 자율규제 두고는 의견 엇갈려

[미디어오늘 박재령 기자]

딥페이크 기술을 활용한 성범죄물이 기승을 부리면서 방송통신위원회 등 당국이 전문가 토론회를 개최했다. 전문가들은 딥페이크 성범죄의 경우 처벌을 강화해야 한다고 입을 모았지만 플랫폼의 사회적 책임을 강조하는 자율규제의 실효성에 대해선 의견이 엇갈렸다.

지난 12일 서울 목동 방송회관 3층에서 방송통신위원회, 방송통신심의위원회, 시청자미디어재단 주최로 '딥페이크 성범죄영상물 대응 전문가 토론회'가 열렸다. 최경진 가천대 법과대학 교수(한국인공지능법학회장)와 정필운 한국교원대 일반사회교육과(한국인터넷법학회장) 교수가 발제를 맡았다.

최경진 교수는 딥페이크 성범죄가 일반 음란물 범죄보다 훨씬 더 심각한 문제라고 강조했다. 최 교수는 “지금은 허위인지 구분이 안 될 정도이다 보니 온갖 종류의 영상을 만들어낼 수 있다”며 “이용자 입장에서 한 번 접하고 나면 진실이라 믿어버린다. 한 사람의 인격을 훼손하는 걸 넘어 완전 말살시킬 수 있는 것”이라고 말했다. 아울러 “최근 딥페이크 범죄물과 관련해 징역 5년 혹은 7년형 이야기가 나오는데 특히 아동청소년과 관련해선 다 약하다고 생각한다”며 “훨씬 더 (형벌을) 높여야 하지 않을까 싶다”고 말했다.

▲ 12일 딥페이크 성범죄영상물 대응 전문가 토론회에서 발제하고 있는 최경진 교수. 방심위 유튜브 갈무리

하지만 인공지능(AI)에 대해선 '일반규제'가 아닌 딥페이크에 한정한 '차등규제'를 해야 한다고 주장했다. 최 교수는 “일반적인 규제를 도입하는 건 우리 사회에 일반적인 규제를 도입하는 것과 같다. 이미 AI가 일상화됐기 때문”이라며 “생활에 미치는 영향력은 더 증대될 것”이라고 말했다.

플랫폼 문제와 관련해선 최 교수는 “(플랫폼 기업들의) 자율규제를 강화시키는 방향으로 가야하지 않을까 싶다”며 “사업자들이 적극적으로 자율규제에 나설 수 있는 환경을 만들어줘야 한다. 기업들이 자발적으로 일정한 선의를 갖고 나섰을 때 사회가 평가해주고 이에 대한 책임을 일정 면해줄 필요도 있다. 그래야 자율규제가 확산되는 분위기가 만들어진다”고 주장했다.

반면 정필운 한국교원대 일반사회교육과 교수는 자율규제의 실효성에 의문을 던졌다. 정 교수는 “한국도 정보통신망법에 자율규제를 촉구하고 지원하는 조항들은 갖고 있고 실제로 하고 있다”면서도 “국내 사업자들만 (자율규제에) 다 들어와 있는 반면 국외 사업자들은 그렇지 않다. EU처럼 시장 규모가 큰 곳에선 자체 규범을 제정해 불이익을 주는 게 가능한데 현재 한국의 시장 규모를 볼 때는 실효적으로 작동하기 어려운 측면이 있다”고 말했다.

▲ 12일 딥페이크 성범죄영상물 대응 전문가 토론회에서 발제하고 있는 정필운 교수. 방심위 유튜브 갈무리

유럽은 현재 디지털서비스법(DSA) 등으로 불법 콘텐츠에 대한 플랫폼 사업자의 의무를 법으로 명시한다. 정 교수는 “유럽은 성범죄 영상뿐 아니라 불법 콘텐츠 일반에 대해 강한 '위험' 평가를 해야 한다는 의무를 부과한다”며 “위험 평가에서 발생이 확인되면 위험 감면 조치를 해야 하고 그렇지 못한 경우엔 글로벌 매출액의 최대 6%를 과징금으로 부과한다. 한국도 이렇게 법을 바꿔야 할지 논의가 필요한 상황”이라고 말했다.

다만 법이 제정된다 하더라도 글로벌 사업자가 따르지 않으면 국내 사업자만 차별한다는 비판이 제기될 수 있다. 정 교수는 “결국 글로벌 사업자들만 살아남고 국내 사업자가 살아남지 못하는 결과가 발생할 수 있다”며 “플랫폼 영역에 아주 고질적인 문제다. 법을 만들게 된다면 이 특수성을 잘 인식해서 법이 실효적으로 작동할 수 있는 방안을 찾아야할 것”이라고 말했다.