[이주의 법안] “내 얼굴이 음란물에?”…‘딥페이크 성범죄’ 막을 법안은?

김장겸 국민의힘 의원, 정보통신망법 개정안 발의…“AI 가상정보 표시 의무화”
“‘포털·플랫폼 책임’ 규정이 핵심…과한 규제? 지금의 상황 그대로 둘 수 없다”

(시사저널=변문우‧강윤서 기자)

해당 딥페이크 음란물 제작 웹사이트는 합성 대상의 신체 일부 등의 크기를 조절하는 기능이 있다. ⓒ시사저널 박정훈

"1분도 안 걸려요. 당장 기자님 얼굴을 찍어서 넣으면 바로 합성물이 만들어져요. 결국 딥페이크 규제가 요원한 사이 AI(인공지능) 기술은 너무 강력해졌어요. 딥페이크를 악용한 (포르노) 서비스가 무수히 생겨났고, 클릭 하나로 음란물이 만들어지고 있는 겁니다." (김덕진 IT커뮤니케이션연구소 소장)

최근 딥페이크 성범죄가 수면 위로 떠오르며 대한민국을 공포에 빠트리고 있다. 실제 딥페이크 음란물 제작·유포 실태는 처참했다. 시사저널이 관련 분야 전문가인 김덕진 소장과 함께 딥페이크 합성물 제작을 직접 시연해 본 결과, 합성 대상의 소셜미디어 링크만 있으면 음란물을 쉽게 만들 수 있었다. 심지어 대상의 몸매와 자세까지 마음대로 조절할 수 있었다. 이 모든 과정이 소요된 시간은 단 30~40초에 불과했다.

이처럼 딥페이크 음란물 제작(생산)이 손쉬운데다, 국내법으로 규제가 어려운 텔레그램(유통)을 통해 악용되면서 가해자와 피해자가 동시에 속출하고 있다. 최근 파악된 피해자 중에는 대학생, 교사, 여군에 이어 미성년자까지 포함됐다. 전국교직원노동조합이 27~28일 이틀간 접수받은 딥페이크 성범죄 직·간접 피해자는 무려 517명, 이 중 학생은 304명에 달했다. 특히 경찰청에 따르면 올 1~7월 허위 영상물 범죄 피의자 중 73.6%가 10대로 나타났다.

문제는 이런 딥페이크 성범죄가 오래 지속됐지만 처벌 법안은 여전히 허술하다는 점이다. 현행법은 아동 성착취물의 경우 소지·유포만 해도 처벌할 수 있지만, 디지털 성적 허위 영상물의 경우 관련 규정이 없어 사각지대에 놓여있다. 그나마 2019년 발생한 'n번방' 사태로 만들어진 '성폭력 범죄 처벌 특별법'의 경우도 허위 영상물을 유포할 목적이 입증돼야 처벌이 가능하다. 결국 가해자가 합성물을 만든 뒤 혼자만 보면 처벌할 수 없는 셈이다.

"'딥페이크 표시 방법' 제공 않은 포털‧플랫폼, 1000만원 과태료 부과"

이에 국회에서도 딥페이크 성범죄 근절을 위한 추가 법안들을 계속 내놓고 있다. 국회 의안정보시스템에 따르면, 22대 국회에는 현재까지 여야 의원들이 발의한 총 8건의 법안들이 올라와있다. 그중 국회 과학기술정보방송통신위원회 소속의 김장겸 국민의힘 의원은 29일 포털과 플랫폼에 'AI 생성물 표시'를 의무화하는 내용의 정보통신망법 개정안을 대표 발의했다.

법안에 따르면, 포털‧플랫폼 사업자는 AI 기술을 이용해 만든 가상의 정보를 구분해 이를 표시할 수 있는 기능을 의무적으로 제공해야 한다. 정보 이용자가 AI 생성물 여부를 쉽게 식별하기 위한 취지에서다. 또 딥페이크 표시 방법을 제공하지 않은 포털·플랫폼 사업자에게는 1000만원 이하의 과태료가 부과된다. 이들은 표시 의무를 위반한 AI 생성물에 대해서도 탐지‧삭제 등 유통 방지 조치를 취해야 한다.

정보를 올리려는 이용자들에게도 의무가 부과된다. AI 생성물 표시 의무는 물론, 표시를 임의로 제거하거나 훼손할 수 없도록 하는 규정도 추가됐다. 해당 의무를 이행하지 않거나 임의로 제거·훼손한 이용자에겐 플랫폼 사업자가 경고, 이용정지, 수익 제한 등 조치할 수 있는 규정도 담겼다. 하지만 AI 기술의 본 취지까지 과도하게 규제할 수 있는 만큼 '대통령령으로 정하는 인공지능 생성물' 등 특수한 경우는 예외를 두게 됐다.

김장겸 의원은 30일 시사저널과의 인터뷰에서 해당 법안의 필요성과 기대 효과에 대해 설명했다. 그는 "법안이 통과되면 가상 정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜 뉴스 피해를 예방할 것으로 기대한다"며 "딥페이크 등 불법 AI 생성물로 국민이 고통 받지 않도록 조속한 입법이 이뤄지도록 최선을 다하겠다"고 말했다. 아래는 김 의원과의 일문일답.

김장겸 국민의힘 의원 ⓒ김장겸 의원실 제공

해당 법안에 관심을 가지게 된 계기는.

"최근 딥페이크 성범죄 논란이 크지만, 이전에도 유명인이 등장하는 딥페이크 허위 광고 영상이 '투자 사기'에 악용되는 등 문제가 많았다. 계속 관심을 가지고 법안을 준비하고 있었는데 피해 사례가 속출하며 최근 이슈가 되는 것 같다."

기존 'n번방 방지법' 등이 이번 '딥페이크 성범죄' 사태를 막지 못한 이유는 무엇으로 보는가.

"디지털 범죄의 범위를 넓히고 처벌을 강화했지만 그것만으로는 예방이 어렵다는 방증이 아닐까 생각한다. 텔레그램의 경우 국내 대리인 조직도 없고, 부가통신사업자로 신고도 안 되어 있어서 다른 사업자보다 규제에 한계가 있는 것은 사실이다. DSA(디지털서비스)법을 만든 EU도 텔레그램에 대한 고심이 큰 것으로 알고 있다. 방송통신심의위원회가 텔레그램과 핫라인을 추진한다고 하니, 상황을 보면서 실효성 확보 방안을 더 고민해야 할 것 같다."

이번 법안의 핵심 차별점은 무엇이고, 어떤 부분을 기대할 수 있는가.

"포털·플랫폼의 역할과 책임을 규정한 게 핵심이다. 그동안 단순 전달자로서 책임을 회피했지만, 포털·플랫폼의 역할이 점점 커지고 있다. 딥페이크 성범죄의 확산도 결국 포털 혹은 플랫폼을 통해 이뤄지지 않았나. '딥페이크 표시제'는 이용자가 AI 생성물임을 식별할 수 있도록 게시자·플랫폼·개발자 각 주체별로 구체적인 의무를 부여함으로써 범죄 예상의 실효성을 높일 수 있다고 생각한다."

이준석 개혁신당 의원을 비롯한 일각에선 '과한 규제'가 될 수 있다며 우려도 표하고 있다.

"지금의 상황을 그대로 둘 수는 없다. 앞으로도 기술이 계속 발전할 텐데, 이에 따른 부작용을 최소화하기 위한 실효적인 조치를 꾸준히 고민하고 패러다임을 전환해야 한다. 물론 개인적으로도 단순히 형량만을 높이거나 산업이 위축될 정도의 과도한 규제에 대해선 부정적이다. 하지만 '과한 규제'라는 주장을 하려면 구체적으로 무엇이 과하고 어떠한 악영향이 예상되는지 얘기를 해야 하지 않을까 생각한다."