생성형 AI 악용한 ‘가상 음란물’ 활개… 처벌 근거는 미비

기존 사진·영상 학습 콘텐츠 제작
‘여학생’ 주제 선정적 영상 게시
유튜브서 수십만회 조회수 기록
가상의 인물로 피해자 특정 불가
법령·판례 부족… 단속·처벌 난항
전문가 “플랫폼 자율 규제 시급”

최근 MZ세대(1980년대 초~2000년대 초 출생) 사이에서 ‘인공지능(AI) 증명사진’이 인기를 끌면서 ‘생성형 AI’에 대한 관심이 높아지고 있다.

생성형 AI는 기존에 존재하는 글·사진·영상 등의 형식을 학습해 유사한 콘텐츠를 새롭게 만들어 내는 기술이다. ‘AI 프로필 서비스’에 자신의 사진 10∼20장을 올리면 전문 사진관에서 촬영한 듯한 새로운 배경과 포즈의 증명사진을 만들어주는 식이다.

사진=게티이미지뱅크

하지만 생성형 AI 기술을 악용해 선정적인 음란물을 제작·유포하는 이들이 늘면서 AI 관련 법적 규제를 강화해야 한다는 목소리도 커지고 있다.

11일 국내 최대 동영상 플랫폼 유튜브에선 교복을 입은 여학생이 선정적인 포즈를 취하거나 속옷 등을 노출하는 짧은 영상(쇼츠)을 쉽게 찾아볼 수 있다. 일부 영상은 ‘여학생’이라는 해시태그와 함께 수십만회 조회수를 기록하고 있다. 이는 모두 생성형 AI로 손쉽게 제작된 가상의 이미지들로, 아동·청소년인 점이 명확하게 인식될 경우 아동·청소년 성착취물 제작·배포 혐의로 처벌받을 소지가 있다.

기자가 취재를 시작하자 유튜브는 관련 콘텐츠 계정을 해지했다. 유튜브 관계자는 “유튜브는 커뮤니티 가이드(성적인 만족을 위해 제작된 과도한 노출 및 성적인 콘텐츠 금지)를 통해 허용되지 않는 콘텐츠를 명시하고 있다”며 “AI로 생성되었는지와 관계 없이 모든 콘텐츠에 동일하게 적용된다”고 설명했다.

문제는 AI 음란물의 경우 가상의 인물이기 때문에 피해자를 특정할 수 없다는 점이다. 실제 인물들을 학습해 내놓은 결과물이지만 법적 처벌을 비껴갈 여지가 큰 셈이다. 성폭력범죄의 처벌 등에 관한 특례법(제14조2항)은 영상물 등을 ‘대상자의 의사에 반하여’ 성적 수치심을 유발할 수 있는 형태로 편집·가공한 경우에 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다고 명시하고 있다.

영상 속 대상자가 불명확한 AI 음란물에 대해선 규제할 법안이 현재로서는 미비한 것이 현실이다. 사이버성폭력 수사를 담당하는 한 경찰 관계자는 “기존 딥페이크(특정 인물의 얼굴을 인공지능 기술을 이용해 합성한 편집물) 범죄의 경우 실제 인물을 전제로 하기 때문에 허위 영상물 제작·유포죄로 처벌하고 있다”면서 “하지만 AI로 제작한 음란물은 가상인물에 대한 법령이나 판례가 부족해 처벌 가능성을 확답할 수 없다”고 말했다.

국회에서는 지난 5월 ‘AI 이미지 생성기 악용 법적 규제’에 관한 국민동의청원이 성사돼 입법 논의의 발판이 마련됐다. 국회 국민동의청원은 청원법에 의거해 청원안 공개 후 30일 안에 5만명의 동의를 얻으면 소관 위원회에 회부된다. 현재 문화체육관광위원회에 회부된 청원안은 AI기업이 저작권, 초상권 등을 보장하도록 AI 학습데이터의 투명성을 강제하는 법률과 AI 이미지 생성기의 윤리적인 활용을 위한 가이드라인을 요구하고 있다.

전문가들은 AI 활용에 대한 충분한 논의와 윤리적 가이드라인에 공감을 표하면서도 과도한 규제보다는 플랫폼 내 자율 규제를 촉구했다. 한국인공지능법학회장을 맡고 있는 최경진 가천대 교수(법학과)는 “현재 AI 기술 관련 규제에 대한 논의는 초기단계”라며 “사전 규제보다는 기존 법령으로 해결할 수 없는 부분에 대한 논의부터 시작해야 한다”고 말했다. 그러면서 “현재 단계에선 AI 음란물이 유포되는 플랫폼에서 AI 기술을 통해 악용사례를 찾는 것과 같은 자율 규제로 이용자들을 보호하려고 노력해야 한다”고 촉구했다.

김나현 기자 lapiz@segye.com