[2021 국감] 김상희 "AI 딥페이크 음란물 차단 2년만에 2.5배↑"

관련 제재 등 제도개선 시급.."피해 심각하다면 기술 금지 가능토록 해야"

[아이뉴스24 최은정 기자] 최근 인공지능(AI) 기술을 악용해 음란물 등 동영상을 만드는 딥페이크 범죄가 지속 발생하면서 관련 대책이 시급한 것으로 나타났다.

김상희 더불어민주당 의원 [사진=김상희 의원실]

딥페이크는 심층학습(딥러닝·Deep Learning)과 가짜(페이크·Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 과정을 말한다.

국회 과학기술정보방송통신위원회 김상희 국회부의장이 방송통신심의위원회로부터 제출받은 자료에 따르면 딥페이크로 제작된 성적 허위영상 차단·삭제 건수는 지난해 6~12월 548건에서 올해 1~9월 1천408건으로 2.5배 이상 증가했다.

앞서 작년 3월 딥페이크 성적 허위영상물 제작·유포를 금지하는 등 내용을 담은 '성폭력범죄의 처벌 등에 관한 특례법'이 국회 본회의를 통과해 지난해 6월 25일부터 시행됐다. 그럼에도 불구하고 영상 차단·삭제 건수가 증가한 것.

더구나 타인의 얼굴 사진을 도용해 음란물 영상에 합성하고 이를 유포하겠다고 협박, 금전을 요구하는 등 범죄가 기승을 부리고 있어 더욱 주의가 필요하다는 게 의원실 측 설명이다.

또 이번에 김 부의장이 경찰청으로부터 제출받은 자료에 따르면 사회관계망서비스(SNS)·메신저를 통해 확보한 일반인·연예인 등의 개인정보를 기반으로 딥페이크 성적 허위영상을 제작·판매·유포하는 행위가 감행되고 있는 것으로 나타났다.

의원실 측은 "AI 등 지능정보 기술을 악용한 범죄 피해를 막기 위해서는 기술에 대한 규제가 필요하다"고 지적했다.

현행 '지능정보화 기본법' 제31조와 제60조에는 지능정보 기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지해야 한다는 내용이 담겼다.

그러나 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법에 적용된 적은 없는 상황이라는 게 의원실 측 주장이다. AI가 인간의 생명과 신체에 위해를 가할 만큼 기술력이 발달하지 못했다는 일부 의견이 작용했다.

김 부의장은 "현행법에는 AI를 악용해 심각한 정신적·금전적 피해를 주는 것에 대한 규정이 없다"며 "이같은 경우 기술의 사용을 제한하거나 중지할 수 있게 해야 한다"고 강조했다.

이어 "미래산업 사회 진입을 위해 AI 발전은 꼭 필요하나 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다"며 "AI 범죄를 신종 범죄로 규정하고 AI 불법행위와 악용을 막을 방안을 마련해 더 이상 AI 범죄로 고통받는 국민이 없도록 노력할 것"이라고 말했다.

/최은정 기자(ejc@inews24.com)

▶네이버 채널에서 '아이뉴스24'를 구독해주세요.

▶재밌는 아이뉴스TV 영상보기▶아이뉴스24 바로가기

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]