"AI 딥페이크 음란물, 올해 2.5배 증가..정부 나서야"

[2021 국감]
작년 6~12월 548건, 올해는 9월까지 1408건
김상희 부의장 "AI기술 범죄 새로 규정해야"

사진=이미지투데이

[이데일리 노재웅 기자] 최근 인공지능(AI) 기술이 불법적인 범죄에 악용되고 있어 대책 마련이 시급하다는 주장이 제기됐다.

28일 김상희 국회부의장이 방송통신심의위원회에서 제출받은 자료에 따르면 2020년 6월부터 단속이 시작된 ‘딥페이크 성적 허위영상’ 차단·삭제 건수는 12월까지 548건에서 올해 1월부터 9월까지 1408건으로 2.5배 이상 증가했다.

딥페이크(Deepfake)란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.

김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용에 따르면 범죄자들은 SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 ‘성적 허위 영상물’을 제작해 판매 및 유포하는 것으로 드러났다.

피해자의 사진만 가지고 AI로 이질감 없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져 나가 ‘제2의 N번방 사건’이 될 가능성도 크다고 김 부의장은 지적했다.

AI를 포함한 지능정보기술을 악용한 범죄의 피해를 막기 위해서는 기술에 대한 규제가 필요하다는 주장도 제기했다.

김상희 부의장은 “현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”며 “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 말했다.

이어 “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”며 “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 강조했다.

노재웅 (ripbird@edaily.co.kr)