1분이면 가짜 뉴진스→에스파 뚝딱, 음란 딥페이크에 노출된 K팝스타[이슈와치]

[뉴스엔 하지원 기자]

K팝 걸그룹을 대상으로 한 딥페이크 영상물, 생성형 AI 모델 데이터가 온라인상에 무분별하게 유포되고 있어 우려를 자아낸다.

6월 27일 업계에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 같은 걸그룹 멤버 이미지를 학습시킨 데이터가 다수 올라와 있다.

게시된 파일들은 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI 스테이블 디퓨전(Stable Diffusion)에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다.

인공지능 기술 발전으로 자신이 원하는 이미지와 영상을 직접 제작할 수 있는 시대가 온 가운데, K팝 걸그룹 뿐 아니라 유명인을 상대로 한 사진, 영상물들이 무분별하게 유통돼 문제가 되고 있다.

딥러닝(컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 기술) 방식상 자연스러운 합성을 위해선 많은 사진 데이터가 필요하다. 이에 유명 연예인들이 딥페이크의 대상이 되곤 한다.

AI 기술을 이용해 성적인 영상에 연예인들 얼굴을 합성하는 등 음란물을 제작하거나, 초상권을 침해한 AI 모델로 창작물을 만들어 수익 창출을 하는 일이 눈에 띄게 늘면서 피해자가 속출하고 있다.

국회는 2020년 6월 일명 '딥페이크 처벌법'을 개정했다. 이 개정안은 불법합성물의 제작과 유포를 적발하면 5년 이하 징역 또는 5000만 원 이하 벌금으로 처벌한다. 이를 금전적 이익을 보는 등 영리를 목적으로 했다면 7년 이하의 징역으로 가중처벌할 수 있다.

하지만 딥페이크 처벌법이 통과된지 2년 반이 지났음에도 딥페이크 범죄는 여전히 횡행하고 있다.

전문가들이 개설방안을 모색하며 사이버 범죄 근절에 노력하고 있지만, 실효성 있는 해결책은 내놓지 못하고 있다는 지적을 받는다. 딥페이크를 이용한 불법 영상물 유포 수법이 날이 갈수록 교묘해지고 악랄해지고 있는 것.

창작자들도 소비자들도 인공지능 콘텐츠가 범죄와 연결될 가능성을 인식, 서비스 이용 시 가이드라인을 준수하고 이용약관 등을 주의 깊게 살펴보는 것이 중요하다.

현재 K팝 업계도 아티스트 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하는 것으로 알려졌다.

뉴스엔 하지원 oni1222@

방송