“딥페이크, 해충·익충 가려 박멸 쉽지 않아”

국회 과방위 ‘어떻게 근절할 것인가’ 토론회

기술은 ‘무죄’…가짜뉴스·성범죄 자체에 초점, 법제도·교육 고려해야
“양형만 높이고 실제론 가벼운 처벌 개선을”…예방적 사전 탐지도 강조

“해충을 계속 잡아야 하듯이 (딥페이크 범죄의) 완전한 박멸은 상당히 어렵다. 기술 자체를 금지할 수 없는 만큼 익충과 해충을 가려서 방역작업을 해야 하는 아주 힘든 상황이다.”

이소은 부경대 미디어커뮤니케이션학부 교수는 5일 국회 과학기술정보방송통신위원회가 여야 공동으로 주최한 ‘딥페이크 성범죄영상물, 어떻게 근절할 것인가’ 토론회 발제에서 이같이 말했다. 전문가들은 법제도, 기술, 교육 등 다양한 측면에서 종합적인 대응이 필요하다고 입을 모았다.

이 교수는 딥페이크 기술의 대표적인 부작용으로 허위정보(가짜뉴스)와 성범죄를 언급하며 “두 문제는 양상이 다르기 때문에 대응도 달라야 한다”고 말했다. 이 교수는 “기술이 아니라 성범죄 행위가 문제다. 딥페이크를 통한 음란물 제작이 성범죄라는 인식을 갖도록 하는 것이 시급하다”고 말했다. 그는 “딥페이크 기술이나 텔레그램으로만 초점을 맞추는 건 생각해볼 문제”라고 했다.

법원이 딥페이크 성범죄자들에게 사진이 정교하지 않고 수익이 크지 않다며 집행유예 판결을 내린 점을 두고 이 교수는 “누구나 싼값에 쉽게 만들 수 있고 널리 확산된다는 디지털성범죄의 특수성을 고려해야 한다”고 지적했다.

다른 발제자인 김명주 서울여대 정보보호학부 교수도 사회 전반적인 인공지능(AI) 윤리를 비롯해 딥페이크 성착취물 생성, 배포, 처벌·피해자 보호의 측면에서 다각도로 접근해야 한다고 봤다. 범죄자들이 오픈소스로 공개된 딥페이크 기술을 악용하는 만큼 통제가 쉽지 않아서다.

김 교수는 “국제 공조가 많이 필요하다”며 “최근 텔레그램이 (성착취물 삭제를 요청한 방송통신심의위원회에) 순응하는 듯한 e메일을 보냈는데, 프랑스에서 최고경영자(CEO)가 체포된 게 가장 큰 이유일 것”이라고 말했다. 김 교수는 “딥페이크 도구 등을 규제할 수도 있고, 위장수사 등 수사기법을 확대할 수도 있다”면서도 “이 모든 것이 강화됐을 경우 부작용도 생각해야 한다”고 했다.

최진응 국회 입법조사처 입법조사관은 “텔레그램 등 사업자에게 몇번의 경고를 내린 후 시정조치를 하지 않으면 접속차단을 할 근거를 두는 방법도 국회에서 논의가 필요하다”고 말했다.

딥페이크 성착취물 소지·시청 행위 처벌에 대해선 “신고 기능이 위축될 수 있다”며 부정적이었다.

이해원 강원대 법학전문대학원 교수는 “형사처벌 형량만 높인다고 해결될 문제는 아니다. 실제 처벌이 무겁게 이뤄져야 한다”고 말했다. 이 교수는 “피해자가 신고한 뒤 삭제하는 건 너무 늦다. 플랫폼이 사전에 탐지해 내릴 수 있도록 좀 더 강한 책임을 물어야 한다”고 했다.

페이스북·인스타그램·스레드를 운영하는 메타플랫폼의 자회사 메타코리아 허욱 부사장은 자사 플랫폼에 올라온 AI 생성물에 ‘AI 정보’라고 표시하고 있고, 엄격한 규정에 따라 성착취물을 삭제하고 있다고 소개했다.

노도현 기자 hyunee@kyunghyang.com