"딥페이크 음란물 막으려면, 텔레그램과의 핫라인보다 국내법 정비가 먼저"

N번방 방지법 사각지대 글로벌 기업
"딥페이크 음란물은 신고해도 방치
선거 관련해선 선거법 개정해 규제
핀셋 규제 만들고 글로벌 공조해야"

29일 오후 서울 강남역 앞에서 열린 딥페이크 성범죄 규탄 여성 시민·대학생 긴급 기자회견에서 참가자가 피켓을 들고 있다. 뉴시스

정부와 국민의힘이 딥페이크 성 착취물 유포의 진원지인 사회관계망서비스(SNS) 텔레그램과 핫라인을 마련해 자율규제를 강화하겠다고 약속했지만 실효성을 기대하기 어렵다는 지적이 나온다. 'N번방 사건' 이후에도 텔레그램을 비롯한 글로벌 플랫폼 기업 대부분이 국내에서는 규제 사각지대에 있기 때문이다.

29일 업계에 따르면 2021년 시행된 N번방 방지법으로 불리는 개정 전기통신사업법 및 정보통신망법은 인터넷 플랫폼 사업자의 '불법콘텐츠 유통 방지' 의무를 강화했다. 국내에서 사업을 하는 연 매출 10억 원 이상이거나 하루 평균 이용자 10만 명 이상의 인터넷 사업자가 자체적으로 음란물 유포를 막기 위한 '필터링 기술'을 적용해야 한다. 특히 불법 촬영물을 발견하면 유통을 차단하고 관련 기관에 신고해야 한다. 네이버, 카카오 등 국내 대형 플랫폼은 물론이고 디시인사이드 같은 커뮤니티 사이트도 규제 대상이다.

하지만 텔레그램은 N번방 방지법의 적용을 받지 않는다. 국내에 법인이나 대리인이 없어 해당 규제를 적용할 수 있는 방법이 없기 때문이다. 텔레그램과 지금까지 '이메일 소통'을 하던 방송통신심의위원회는 이번 사태를 계기로 텔레그램과 핫라인을 구축해 신속하게 불법 촬영물을 삭제 요청할 계획이지만 텔레그램이 이에 응할 가능성은 낮다. 김승주 고려대 정보보호대학원 교수는 "텔레그램의 셀링 포인트(판매 강조점)가 '각국 정부에 협조하지 않는다'인데 협조하는 순간 고객을 잃어버릴 수 있다는 문제가 생긴다"며 "텔레그램을 압박해 문제를 해결하는 건 시간이 꽤 걸릴 것"이라고 봤다.

딥페이크 신고해도 해외 플랫폼은 삭제에 하세월

한동훈(왼쪽 네 번째) 국민의힘 대표가 29일 국회에서 열린 딥페이크 성범죄 관련 부처 긴급 현안보고 회의에 참석해 자리하고 있다. 왼쪽부터 이인선 여성가족위원장, 김상훈 정책위의장, 추경호 원내대표, 한 대표, 신영숙 여성가족부 차관, 김태규 방통위원장 직무대행. 뉴스1

정부와 여당이 이날 성폭력처벌법을 개정해 딥페이크 성 착취물 유포 시 처벌 강화를 예고했지만 이 역시 쉽지 않다. 만든 사람도 유포한 사람도 잡기 어려워서다. 대부분의 딥페이크 음란물은 개인이 다크웹(특정 방식으로만 접속할 수 있는 앱)에서 오픈소스를 활용해 제작하기 때문에 만드는 행위를 100% 차단하는 게 불가능하다. 딥페이크 음란물의 생성 방지와 출처 확인을 위해 인공지능(AI) 생성물에 워터마크(표식) 부착을 의무화하자는 제안도 나오지만 워터마크를 지우는 AI가 더 빠르게 발달하고 있다.

만약 딥페이크 음란물로 인한 피해를 입어도 글로벌 플랫폼은 국내 플랫폼보다 신고·삭제 절차가 훨씬 까다롭다. 미국계 기업은 특히 '표현의 자유'를 중시해 신고 내용을 고객센터에서 검토한 뒤 삭제 여부를 결정하고 본인 여부를 확인하는 데 시간이 많이 걸리기 때문이다. 특히 텔레그램은 신고를 해도 계정에 대한 제재나 게시물이 삭제되는 경우는 많지 않은 게 현실이다.

"선거 딥페이크는 이미 규제하는데…"

결국 딥페이크 음란물 유통을 방관하는 해외 플랫폼을 빠르게 제지하려면 '원포인트 규제'가 필요하다는 지적이 나온다. 지난해 12월 국회는 딥페이크를 활용한 선거운동 방식과 가짜뉴스 범람에 대한 우려가 제기되자 공직선거법(82조8)을 개정해 올해부터 선거일 90일 전부터 선거 당일까지 선거운동 목적의 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 했다. 본래 방심위가 유튜브에 선거 딥페이크 영상 삭제를 요청하면 처리까지 2주가 넘게 걸렸지만 개정 선거법이 시행된 후엔 처리 주기가 보다 짧아진 것으로 전해진다.

이 때문에 임종인 대통령실 사이버 특별보좌관(고려대 정보보호대학원 명예교수)은 "국회가 AI 기본법을 만드는 것보다 딥페이크 음란물 유포에 대한 구체적 제재안을 담은 법부터 만드는 게 우선"이라며 "텔레그램처럼 국내에 법인이 없는 글로벌 회사도 한국 사용자가 일정 정도 있으면 대리인을 두고 한국 정부가 요청하면 72시간 이내에 답을 하도록 강제해야 실효성이 생긴다"고 말했다.

딥페이크 음란물 피해를 100% 예방하기가 어려운 만큼 현실적으로 이용자 의식 전환 교육이 먼저라는 지적도 나온다. N번방 사건으로 음란물 제작·유포자 처벌을 강화했으나 성착취물 피해가 줄지 않아서다. 김 교수는 "AI로 딥페이크 음란물을 찾아내 삭제하는 기술이나 워터마크 부착 등은 초보적 보조 수단이지 문제 해결책이 아니다"라면서 "장기적으로는 디지털 윤리 교육과 캠페인을 강화해 사회 분위기를 바꿔야 한다"고 지적했다.

김지현 기자 hyun1620@hankookilbo.com

한국일보

IT/과학