'가짜 음란물' 딥페이크 1400건..김상희 "기술 규제 필요"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
올해 1월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받은 A씨는 70여명의 연예인과 일반인의 불법 합성물을 딥페이크 기술로 제작, 판매하다가 검거됐다.
딥페이크는 인공지능(AI) 기술을 악용해 가짜 음란영상을 만들어 매매하거나 피해자를 협박하는 신종 범죄다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
"AI 기술, 인간에 심각한 피해 끼치면
정부가 직접 나서야"
[아시아경제 차민영 기자] 올해 1월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받은 A씨는 70여명의 연예인과 일반인의 불법 합성물을 딥페이크 기술로 제작, 판매하다가 검거됐다. 딥페이크는 인공지능(AI) 기술을 악용해 가짜 음란영상을 만들어 매매하거나 피해자를 협박하는 신종 범죄다.
작년 딥페이크 성적 허위영상물 제작·배포를 금지하는 '성폭력범죄의 처벌 등에 관한 특례법'이 마련됐지만 올 들어 딥페이크 범죄만 1400건 넘게 발생한 것으로 확인됐다. 현실적으로 기술을 저지할 수단이 제한적인 만큼 지능정보기술 관련 법 제도 개선이 필요하다는 목소리도 나오고 있다.
27일 과학기술정보방송통신위원회 김상희 국회부의장이 방송통신심의위원회에서 제출받은 자료에 따르면 '딥페이크 성적 허위영상' 차단·삭제 건수는 작년 6월 25일 이후 12월까지 548건에서 올해 1월부터 9월 24일까지 1408건으로 2.5배 이상 증가했다. 월평균 건수도 약 91건에서 156건으로 1.7배 늘었다. 딥페이크 성적 허위영상물의 제작·배포를 금지하는 성폭력범죄처벌법이 작년 6월 25일부터 시행됐지만 범죄 건수는 더 늘어난 상황이다.
김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴보니 소셜네트워크서비스(SNS)와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 성적 허위 영상물을 제작해 판매·유포하는 것으로 드러났다. AI로 이질감 없는 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 '제2 N번방 사건'이 될 가능성도 존재한다.
이에 AI를 포함한 지능정보기술을 악용한 범죄 피해를 막기 위해서는 기술 규제가 강화돼야 한다는 지적이 나오고 있다. 현행 '지능정보화 기본법' 제31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 돼 있다. 하지만 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법이 적용된 사례는 전무하다.
김상희 부의장은 "현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다"며 "AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다"고 주장했다.
이어 "미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다"며 "AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련하여 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다"고 강조했다.
차민영 기자 blooming@asiae.co.kr
Copyright © 아시아경제. 무단전재 및 재배포 금지.
- 물축제 음란행위 남성 2명은 한국인…나라망신시키고 태국은 떠나 - 아시아경제
- 대학 나온 미모의 26세 女 "돼지 키우며 월 114만원 벌지만 행복" - 아시아경제
- "살 빼려고 맞았는데 아이가 생겼어요"…난리난 '오젬픽 베이비' - 아시아경제
- 일본인에 파마·커트 80만원 청구한 강남 미용실…누리꾼 갑론을박 - 아시아경제
- "길에 취객 있다는 신고 제발 하지 마"…현직 경찰 호소 - 아시아경제
- 매번 남편에 '돈 돈 돈'하던 시어머니…"친정도 똑같이 해야죠" 며느리 반격 - 아시아경제
- "샤넬백 200만원 더 싸다"…값 안올리니 '원정쇼핑 성지'된 이 나라 - 아시아경제
- 배우 주선옥, 연극 연습 도중 쓰러져…3명에 새 삶 주고 떠났다 - 아시아경제
- "죽일까" "그래"…파주 호텔 사망사건 남성들의 '섬뜩한 대화' - 아시아경제
- 낮잠안잔다며 1살 아이 숨지게 한 원장, 또 다른 학대로 추가 실형 - 아시아경제