쏟아지는 AI 음란물…가로막힌 법적 처벌

경찰, 허위 영상 유포 30대 구속
SNS에 비방 목적 대량 업로드
콘텐츠 가상 인물땐 제재 불가

▲ 사진제공=경기북부경찰청

AI를 이용한 허위 영상을 유포해 구속되는 사례가 발생했으나 공동체 신뢰를 저해하는 허위·비방성 컨텐츠는 계속 양산되고 있다.

청소년들이 쉽게 접하는 SNS에 AI를 활용한 음란물도 무단으로 게시되고 있어 대책이 필요하다는 지적이 나온다.

18일 인천일보 취재를 종합하면 지난 2일 경기북부경찰청 사이버수사대는 경찰관이 현장에서 보디캠으로 찍은 것처럼 보이는 AI 영상물들을 유튜브에 대량 업로드한 30대 A씨를 구속했다.

A씨는 '순찰 24시'라는 유튜브 채널에 중국인이 난동을 부리는 영상, 경찰이 폭력을 행사해 집회 참가자를 진압하는 영상 등을 AI로 제작해 업로드했다. 이 과정에서 AI를 이용해 영상을 만들었다는 표시인 워터마크도 삭제해 실제 영상처럼 보이게 했다.

경찰은 올해 10월까지, 공동체 신뢰를 저해하는 허위 정보 관련 범죄 집중 단속 기간으로 정해 유사 사례 적발에 주력할 예정이다.

그럼에도 AI를 활용한 정치적 비방 목적의 콘텐츠는 아직도 SNS 곳곳에서 보이고 있다. 특정 집단과 개인의 명예 훼손을 목적으로 하는 콘텐츠가 아니기 때문에 명확한 처벌 근거가 없는 상황이다. 현재는 성적 허위 영상물만 처벌할 수 있다.

SNS를 뒤덮는 AI 활용 음란물도 문제가 되고 있다. 인스타그램 릴스 기능과 유튜브 쇼츠 기능 등에는 AI를 활용해 음란물을 제작하는 방법이 공유되고 있다. 기본적으로 AI는 성적 목적의 콘텐츠를 제작하지 않지만 정교한 프롬포트를 이용해 음란물 제작을 유도하는 방식이다.

이렇게 제작된 음란물과 제작 방법 등이 청소년들이 쉽게 접할 수 있는 SNS에 무방비하게 업로드되고 있다.

지난해 8월 의정부지법 고양지원은 성폭력처벌법상 허위영상물(딥페이크 음란물) 혐의로 기소된 30대 남성 A씨에게 무죄를 선고했다. 재판부는 가상 인물을 대상으로는 성적 수치심 등을 유발할 수 없어 범죄가 성립하지 않는다고 판단했다.

콘텐츠 속 등장인물이 가상 인물이라면 음란물을 제작·유포해도 법적으로 처벌할 수 없는 것이다. 지난해 10월 실제 인물로 인식될 수 있는 가상 인물을 활용해 음란물을 제작·배포하면 처벌할 수 있는 법안이 발의됐으나 계류 중이다.

이종수 서강대 법학전문대학원 교수는 "아동과 청소년들이 쉽게 접할 수 있는 경우임에도 입법의 공백이 있다면 그 공백을 메울 필요는 있어 보인다"고 지적했다.

/추정현 기자 chu3636@incheonilbo.com