“딥페이크 익충과 해충 가려서 방역해야···종합적 대응 필요”

5일 국회에서 ‘딥페이크 성범죄영상물, 어떻게 근절할 것인가’를 주제로 과학기술정보방송통신위원회 토론회가 열리고 있다. 연합뉴스

“해충을 계속 잡아야 하듯이 (딥페이크 범죄의) 완전한 박멸은 상당히 어렵다. 기술 자체를 금지할 수 없는 만큼 익충과 해충을 가려서 방역작업을 해야 하는 아주 힘든 상황이다.”

이소은 부경대 미디어커뮤니케이션학부 교수는 5일 국회 과학기술정보방송통신위원회가 여야 공동으로 주최한 ‘딥페이크 성범죄영상물, 어떻게 근절할 것인가’ 토론회 발제에서 이같이 말했다. 전문가들은 법제도, 기술, 교육 등 다양한 측면에서 종합적인 대응이 필요하다고 입을 모았다.

이 교수는 딥페이크 기술의 대표적인 부작용으로 허위정보(가짜뉴스)와 성범죄를 언급하며 “두 문제는 양상이 다르기 때문에 대응도 달라야 한다고 본다”고 말했다. 이 교수는 “기술이 아니라 성범죄 행위가 문제다. 딥페이크를 통한 음란물 제작이 성범죄라는 인식을 갖도록 하는 것이 시급하다”고 말했다. 그는 “딥페이크 기술이나 텔레그램으로만 초점을 맞추는 건 생각해볼 문제”라고 했다.

이 교수는 학교 교육 강화, 피해자 보호 대책 마련, 법제도 보완 등이 필요하다고 지적했다. 그는 “지금 발의된 입법안도 중요하지만 그 전에 기존 법률이 제대로 적용되고 있는지 점검해볼 필요가 있다”고 말했다. 법원이 딥페이크 성범죄자들에게 사진이 정교하지 않고 수익이 크지 않다며 집행유예 판결을 내린 점을 두고 “누구나 싼값에 쉽게 만들 수 있고 널리 확산된다는 디지털성범죄의 특수성을 고려해야 한다”고 말했다. 대응책의 효과에 대한 연구가 필요하고 플랫폼에 책무를 부과하는 방안이 산업계에 미치는 부작용도 고려해야 한다고 짚었다.

또 다른 발제자인 김명주 서울여대 정보보호학부 교수도 사회 전반적인 인공지능(AI) 윤리를 비롯해 딥페이크 성착취물 생성, 배포, 처벌·피해자 보호의 측면에서 다각도로 접근해야 한다고 봤다. 범죄자들이 오픈소스로 공개된 딥페이크 기술을 악용하는 만큼 통제가 쉽지 않아서다.

김 교수는 “국제 공조가 많이 필요하다”며 “최근 텔레그램이 (성착취물 삭제를 요청한 방송통신심의위원회에) 순응하는 듯한 e메일을 보냈는데, 프랑스에서 최고경영자(CEO)가 체포된 게 가장 큰 이유일 것”이라고 말했다. 그는 “딥페이크 도구 등을 규제할 수도 있고, 플랫폼에 책임을 부여할 수도 있고, 위장수사 등 수사기법을 확대할 수도 있다”면서도 “이 모든 것이 강화됐을 경우 부작용도 생각해야 한다”고 했다.

토론에 참여한 최진응 국회 입법조사처 입법조사관은 “텔레그램 등 사업자에게 몇 번의 경고를 내린 후 시정조치를 하지 않으면 접속차단을 할 수 있는 근거를 두는 방법도 국회에서 논의가 필요하다”고 말했다. 딥페이크 성착취물 소지·시청 행위를 처벌하는 방안을 두고는 “신고 기능이 위축될 수 있다”고 했다.

이해원 강원대 법학전문대학원 교수는 “형사처벌 형량만 높인다고 해결될 문제는 아니다. 실제 처벌이 무겁게 이뤄져야 한다”고 말했다. 다만 소지·시청 행위 처벌의 적절성에는 의문을 표했다. 이 교수는 “일반인이 딥페이크 음란물을 쉽게 생성할 수 있도록 하는 접근 통로와 인터넷에서 유통되는 통로를 통제해야 한다”고 말했다. 그는 “피해자가 신고한 뒤 삭제하는 건 너무 늦다. 플랫폼이 사전에 탐지해 내릴 수 있도록 좀 더 강한 책임을 물어야 한다”고 했다.

페이스북·인스타그램·스레드를 운영하는 메타플랫폼 자회사 메타코리아의 허욱 부사장은 자사 플랫폼에 올라온 AI 생성물에 ‘AI 정보’라고 표시하고 있고, 엄격한 규정에 따라 성착취물을 삭제하고 있다고 알렸다.

노도현 기자 hyunee@kyunghyang.com