"딥페이크 성범죄 처벌 강화해야…미디어 리터러시 필요"

방통위·방심위, '딥페이크 성범죄영상물 대응' 토론회

[서울=뉴시스] 김진아 기자 = 12일 오후 서울 양천구 방송회관에서 '딥페이크 성범죄영상물 OUT! - 현안 진단과 대책 모색' 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'가 열리고 있다. 2024.09.12. bluesoda@newsis.com

[서울=뉴시스] 신효령 기자 = "온라인 서비스 제공자에 대해 딥페이크 성범죄 영상물 대응에 대한 일정한 의무를 부과하고 이를 위반한 경우 제재가 필요하다. 이에 바탕해 온라인 서비스 제공자가 신속하게 이를 제거하고 대응할 수 있도록 협력체계 구축이 필요하다."(정필운 한국교원대 일반사회교육과 교수)

"인공지능(AI)이 가져오는 부작용이나 폐해를 정확히 파악하고, AI에 대한 과대평가나 과소평가를 모두 지양해야 한다. 인간의 정체성과 인격을 훼손하거나 파괴하는 AI 사용에 대해서는 심각한 범죄로 처벌해야 한다."(최경진 가천대 법과대학 교수)

12일 오후 서울 양천구 방송회관에서 열린 '딥페이크 성범죄영상물 대응 전문가 토론회'에서 딥페이크 성범죄영상물 근절과 관련된 다양한 의견이 쏟아져 나왔다. 이날 토론회는 방송통신심의위원회(방심위)와 방송통신위원회(방통위), 시청자미디어재단이 함께 주최했다.

정부부처, 학계, 산업계, 유관기관 등 국내 관련 전문가가 대거 참여했다. 인공지능의 역기능과 폐해 그리고 법제도 개선방향, 딥페이크 성범죄영상물 대응전략 등 딥페이크 성범죄영상물 근절을 위한 현황을 진단하고, 대응방안을 모색했다.

[서울=뉴시스] 김진아 기자 = 12일 오후 서울 양천구 방송회관에서 '딥페이크 성범죄영상물 OUT! - 현안 진단과 대책 모색' 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'가 열리고 있다. 2024.09.12. bluesoda@newsis.com

전문가들은 딥페이크 성범죄 문제가 심각한 만큼 딥페이크 성범죄의 처벌 수위를 강화하는 것이 필요하다고 입을 모았다. 딥페이크 영상은 해외에 서버를 둔 플랫폼에서 유통되는 경우가 많다. 정보통신망 사업자에 대한 관리·감독 의무 강화, 해외 각국과의 공조수사 강화와 함께 딥페이크 성범죄 위험성에 대한 교육이 필요하다는 지적도 나왔다.

최경진 교수는 "딥페이크 음란물은 우리가 심각성을 고려해야 할 것 같다. 딥페이크가 남용되는 가짜뉴스 영역이 있고, 더 나아가 선거 맥락에서 만들어지는 게 있다. 그 위에 딥페이크 음란물 영역이 있고 아동·청소년에 대해서 딥페이크 음란물 영역이 있다. 이 모든 영역에 대해서 차례차례 강화되는 규제가 필요하다고 생각한다"고 말했다.

문성환 시청자미디어재단 미디어교육 정책부장도 "딥페이크 역기능에 대한 차등 규제에 대해 전적으로 동의한다"고 했다. "실제로 딥페이크를 통한 허위조작정보, 가짜뉴스나 피싱 사기 정보는 조작됐다는 걸 알게 되면 그 영향력이 소멸되는 경향이 있다. 반면 성범죄물은 이게 조작됐고 가짜라고 하더라도 여전히 유통되고 복제되는 상황이다. 특히 아동·청소년에 대한 성범죄물은 더 큰 규제가 필요하다고 생각한다"고 했다.

최순욱 너비의 깊이 이사는 "딥페이크 논의와 관련해서 인터넷 서비스 사업자인 플랫폼 관련 규제는 이미 우리나라 기업들은 상당히 많이 노력을 하고 있다. 어떤 사건이 터졌을때마다 사업자에게 꾸준히 교육해왔고, 오히려 법에서 요구하는 것 이상으로 많이 해왔다. 딥페이크 성범죄 영상물이 유통되는 경로를 보면 도박이나 마약 등을 위한 미끼다"고 설명했다.

"딥페이크 성범죄 영상물을 제작, 유포한 것에 대해 처벌을 강화하는 건 동의하지만 그게 아닌 상황에서는 심도있는 논의가 필요하다. 딥페이크 영상을 어떤 사람의 인스타그램에서 다운받아서 그걸 이용하면 바로 범죄가 되냐. 이게 범죄가 되는지에 대해서 많은 논의가 필요하다"고 했다.

아울러 최 이사는 "미디어 리터러시 교육이 필요하다. 어떤 인터넷 서비스를 사용할때 그걸로 인해 어떤 위험성을 지니게 되는지에 대해 광범위한 교육이 필요하다"고 말했다.

[서울=뉴시스] 김진아 기자 = 12일 오후 서울 양천구 방송회관에서 '딥페이크 성범죄영상물 OUT! - 현안 진단과 대책 모색' 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'에서 류희림(가운데) 방송통신심의위원회 위원장을 비롯한 참석자들이 기념촬영을 하고 있다. 2024.09.12. bluesoda@newsis.com

문기현 서울디지털성범죄 안심지원센터장은 "아동, 청소년 피해자의 상담이 들어오면 고민이 많다. 본인이 피해 사실이 있는지 조차 모르는 경우가 많다. 딥페이크 가해자들도 그냥 장난으로 해봤다는 경우가 많다"고 말했다. "법적인 제재가 강화되어야 한다. 아직도 많은 가해자들이 초범 등의 이유로 집행유예로 끝나는 경우가 많다"고 덧붙였다.

김태규 방송통신위원장 직무대행은 신영규 방송통신이용자정책국장이 대독한 개회사를 통해 "최근 음란물에 지인 얼굴을 합성한 성적허위 영상물과 해당 피해자의 개인정보를 텔레그램 대화방을 통해 유포해 피해자를 고통스럽게 하는 일이 발생했다. 이런 성적허위 영상물의 제작, 유포행위는 디지털 성범죄에 해당한다. 그러나 어린 학생부터 성인까지 다양한 계층의 가해자가 정보통신망상의 익명성, 호기심, 금전적 이익 등의 이유로 불특정 다수의 피해자에게 디지털 성범죄를 행하고 있다"고 말했다.

김 직무대행은 "이에 방송통신위원회(방통위), 방송통신심의위원회(방심위), 시청자미디어재단은 급속도로 발전하는 인공지능 기술의 역기능에 현명하게 대처하고 정보통신이용자의 피해를 최소화하기 위해 전문가와 관계 부처 사람들과 함께 토론회를 열게 됐다. 오늘 토론회에서 논의되는 유익한 내용은 앞으로의 방통위 정책에 반영하겠다"고 했다.

류희림 방송통신심의위원장은 환영사에서 "최근 딥페이크 기술을 악용한 성범죄영상물은 우리 사회의 심각한 위협이 되고 있다. 이런 디지털 성범죄 영상물이 성인 뿐만 아니라 초등학교까지 확산돼 국가 재난상황이라는 말까지 나올 정도다"고 밝혔다.

"방심위는 딥페이크 성범죄 영상물 신고부터 삭제 조치까지 모든 업무의 역량을 총동원하고, 관계기관 등과 협력해 다각적인 노력을 기울였다. 그결과 보다 신속한 신고, 심의 절차를 도입했다. 딥페이크 성범죄 영상물이 가장 많이 유포된 텔레그램 측에 사과 및 긴급 핫라인 개설 등 상호협력 방안을 도출해냈다"고 설명했다.

류 위원장은 "그동안 잘 협조가 되지 않았던 텔레그램 측과 몇 차례 화상회의를 통해 대화 채널을 구축한데 이어, 빠르면 이번달 중에 처음으로 대면회의를 하기로 하는 등 실질적인 성과가 나타났다. 그러나 딥페이크 성범죄 영상의 근절을 위해서는 법제도와 정책 개선, 산업계의 노력, 장기적인 대응책 등이 필요하다"고 강조했다.

[서울=뉴시스] 김진아 기자 = 12일 오후 서울 양천구 방송회관에서 '딥페이크 성범죄영상물 OUT! - 현안 진단과 대책 모색' 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'가 열리고 있다. 2024.09.12. bluesoda@newsis.com

☞공감언론 뉴시스 snow@newsis.com