학계 “딥페이크 성범죄물, 법보다 기술로 우선 해결해야”

12일 딥페이크 성범죄영상물 대응 전문가 토론회

방송통신위원회와 방송통신심의위원회, 시청자미디어재단이 12일 오후 양천구 방송회관에서 공동 개최한 딥페이크 성범죄영상물 대응 전문가 토론회에서 류희림 방송통신심의위원장(왼쪽에서 6번째) 등 참석자들이 기념 촬영을 하고 있다. ⓒ데일리안 민단비 기자

인공지능(AI)으로 제작되는 딥페이크 성범죄물과 관련해 “기술은 기술로 먼저 막아야 한다”며 전문가들이 한목소리를 냈다. 딥페이크 성범죄물 근절을 위해 규제를 앞세울 시 AI 기술 발전이 가로막힐 수 있다는 이유에서다.

방송통신위원회는 방송통신심의위원회, 시청자미디어재단과 함께 12일 오후 양천구 방송회관에서 딥페이크 성범죄영상물 대응 전문가 토론회를 공동으로 개최했다.

최경진 가천대학교 법과대학 교수 겸 한국인공지능법학회 회장은 ‘인공지능의 역기능과 폐해 그리고 법제도 개선방안’, 정필운 한국교원대학교 일반사회교육과 교수 겸 한국인터넷법학회 회장은 ‘딥페이크 성범죄영상물 대응전략’에 대해 발표했다.

첫 번째 발표를 맡은 최경진 교수는 “딥페이크 음란물이 많아지고 있지만 이를 근절하기 위한 방향이 AI 발전을 막는 쪽으로 가선 안 된다”며 “R&D(연구개발)을 통해 (딥페이크 음란물 유통을 막을 수 있는) 기술을 개발하고 적용하는 동시에 AI 혁신이 지속 가능할 수 있게 만드는 규제 체계가 만들어져야 한다”고 주장했다.

딥페이크 영상물이 유통되는 플랫폼에 대한 규제와 관련해서는 “자율규제를 강화해야 한다”며 “텔레그램과 같이 딥페이크 음란물 확산의 터전이 되는 곳에 대한 규제를 도입하는 것도 고려해야 하지만 한편으로는 SNS 사업자들이 자율규제에 적극 나설 수 있는 환경을 만들어줘야 한다”고 강조했다.

그 다음으로 발표에 나선 정필운 교수도 “사이버 공간에서 기술 발전에 의해 발생한 사회문제를 해결할 때에는 기술에 주목하는 것이 필요하다”며 “다만 기술 개발만을 마냥 기다릴 수는 없으므로 교육, 홍보, 법의 대응 등 다양한 방법을 강구해야 한다”고 했다.

또한 “온라인 서비스 제공자에 자율규제를 유도해야 한다”면서도 “딥페이크 성범죄영상물 대응에 대한 일정한 의무를 부과하고 이를 위반할 경우 제재가 필요하다”고 덧붙였다.

발제 직후 진행된 토론에서 김영규 한국인터넷기업협회 정책1실장도 과도한 규제에 따른 산업 위축을 우려했다. 김 실장은 “최근 발의된 30개 이상의 딥페이크 관련 법안 중 AI 생성물에 ‘워터마크’ 표시를 의무화하는 법안이 있는데 딥페이크와 관련이 없는 기술까지 표시 의무를 지우면 산업 발전에 부정적인 영향을 미칠 수 있다”고 말했다.

김우석 방통위 디지털유해정보대응과장은 “방심위와 협의해 딥페이크 성범죄물을 신속하게 삭제할 공동 책임이 있으므로 방심위 활동을 계속 지원할 계획”이라며 “피해영상물뿐 아니라 피해자 신상정보도 신속하게 차단될 수 있도록 입법적으로 보완할 계획”이라고 밝혔다. 이어 “플랫폼 사업자 규제와 관련해서 계속 이야기가 나오는데, 사업자가 1년 동안 활동 내용을 발표하는 투명성 보고서의 내용을 보다 충실히 작성하도록 하겠다”고 덧붙였다.