‘나체·10살’ 입력어 넣어...AI 아동 성착취물 제작자, 국내 첫 기소

檢, 아동청소년법 위반 혐의 적용

일러스트=이철원

이미지 생성 인공지능(AI)을 활용해 아동 성착취물을 제작한 40대 남성이 구속 기소됐다. 국내에서 AI 프로그램으로 음란물을 제작한 혐의로 재판에 넘겨진 첫 사례이다.

부산지방검찰청은 지난 25일 여아가 신체를 노출하고 성적 행위를 하는 모습의 실사 이미지 파일 360개를 제작한 A씨에 대해 아동·청소년의 성보호에 관한 법률(아청법) 위반 등의 혐의로 구속 기소했다고 31일 밝혔다. A씨는 실제 사람이 등장하는 불법 성인 영상물을 제작·배포한 혐의(성폭력처벌법 위반)도 받고 있다고 한다.

A씨는 지난 4월 자신의 노트북에 설치한 AI 프로그램에 ‘10살, 나체’ 등의 명령어를 입력해 성착취물을 제작한 것으로 조사됐다. AI로 제작된 이 아동 성착취물에 대해 검찰은 실제 아동을 출연시킨 것과 동일하게 아청법 위반을 적용했다. 아청법상 성착취물이란 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장해 성적 행위를 하는 내용을 담은 것을 말한다.

검찰 관계자는 “AI를 활용해 만든 가상의 이미지라고 해도 실제 아동으로 명백하게 인식될 수 있는 표현물이 등장했고, 이 같은 제작물이 아동을 상대로 한 비정상적 성적 충동을 일으키기에 충분하다고 보고 아청법을 적용했다”며 “앞으로도 AI를 활용한 성착취물 제작 등 디지털 성범죄에 대해 엄정 대응할 방침”이라고 밝혔다. 아청법상 아동·청소년 성착취물을 제작한 사람은 무기징역 또는 5년 이상 유기징역에 처하게 돼 있다.

챗GPT 같은 생성형 AI 열풍 이후 국내에서 이 같은 도구를 활용한 성착취물이 손쉽게 제작·배포되고 있다. 실제 이날 유튜브에 ‘AI 룩북’ 등의 키워드를 검색하자 AI 도구를 활용해 제작된 음란물들이 다수 검색됐다. 특정 신체 부위가 과도하게 강조되거나 교복 차림 학생이 속옷을 보여주는 사진이나 영상이다. 콘텐츠 조회 수는 적게는 수만회부터 많게는 1000만회를 넘긴 것도 있었다.

이런 콘텐츠는 영국의 스테이블디퓨전 등 이미지 생성 AI를 활용해 제작된다. A씨도 이 프로그램을 사용했다. 이 같은 AI 이미지 생성 도구들은 전문적 기술이 없어도 명령어 몇 개만 입력하면 정교한 이미지를 만들어낸다. 이미지 생성 프로그램은 대부분 아동 성착취물을 제작할 수 없도록 명령어에 금지어를 지정하는 등의 장치를 마련하고 있지만 온라인에서는 이를 교묘하게 피하는 꼼수가 공유되고 있다. IT 업계 관계자는 “스테이블디퓨전의 경우 프로그램을 다운받아 이용자가 자신의 컴퓨터에서 특정 이미지로 학습시키는 등 자유롭게 조작할 수 있기 때문에 이용자가 원하는 이미지를 무한 생성할 수 있다”고 했다.

해외에서도 AI 성착취물은 심각한 사회문제로 떠오르고 있다. 미국 연방수사국(FBI)은 최근 “기술 발전은 AI가 생성 가능한 콘텐츠의 품질, 접근성을 지속적으로 향상시키고 있다”며 “미성년자를 포함한 피해자들의 사진이나 영상을 동의 없이 활용한 성착취물이 소셜미디어와 불법 영상물 사이트를 통해 유포되고 있다는 신고를 지속적으로 받고 있다”고 밝혔다. AFP통신은 ‘AI 시대, 여성들은 딥페이크(AI 기술을 활용해 진짜처럼 만든 가짜 편집물) 포르노와 싸우고 있다’는 제목의 기사에서 “AI 성착취물 열풍(boom)은 관련 기술을 규제하려는 미국과 유럽의 노력을 앞지르고 있다”며 “유명인뿐 아니라 일반 여성들도 표적이 되고 있다”고 보도했다.

장동선 한양대 창의융합교육원 교수(뇌과학자)는 “AI를 활용한 딥페이크 콘텐츠 대부분이 성산업이나 범죄 등에 활용되고 있다”며 “AI로 사진, 영상, 목소리, 그림을 만들어내는 것은 물론 인간의 뇌와 감정을 자극하는 시도까지 이어지고 있어서 주의가 필요하다”고 지적했다.