타임지 선정 AI인물 100인에 15살 청소년이 뽑혔다

[AI 미디어 파도] 학교 딥페이크 성범죄 피해자였던 청소년, 안티 딥페이크 운동가가 되다

[미디어오늘 금준경 기자]

▲ 'TIME100 AI 2024' 기사가 담긴 타임지 표지 갈무리.

미국 시사주간지 타임(TIME)이 인공지능(AI) 분야 가장 영향력 있는 100인에 청소년 안티 딥페이크 운동가를 선정했다.

타임은 지난 5일(현지시각) AI 분야에 큰 영향력을 끼친 인물 100인을 선정하는 'TIME100 AI 2024'를 발표했다. 100인 가운데 15살 프란체스카 마니(Francesca Mani) 안티 딥페이크 운동가가 포함됐다. 그는 어머니와 함께 딥페이크 피해자를 위한 정보를 제공하고 정치인, IT기업, 학교 등에 제도 개선을 촉구하는 활동을 하고 있다.

미국 뉴저지주의 웨스트필드 공립학교에 재학 중인 프란체스카 마니는 지난해 10월 같은 반 남학생들이 인공지능 프로그램을 활용해 자신을 비롯한 여학생들에 대한 성적인 딥페이크 이미지를 만들었다는 사실을 알게 됐다. 그러나 학교는 피해자를 제대로 보호하지 못했고 가해자에게 형사 책임을 물을 가능성도 낮았다. 지난 3월 영국 가디언 인터뷰에 따르면 당시 프란체스카 마니는 어머니에게 “무언가를 해야 한다”며 “피해자로 남지 않겠다”고 했다.

이후 프란체스카 마니와 그의 어머니는 지역구 의원들에게 딥페이크 성범죄에 대응책을 촉구하는 편지를 보낸 것을 시작으로 입법 및 제도개선 활동을 하고 있다.

미국에서도 딥페이크 성범죄는 사회적 문제가 되고 있다. 프란체스카 마니는 타임과 인터뷰를 통해 “저와 저희 반 친구들에게 그런 일이 일어났을 때, 우리는 아무런 보호도 받지 못했다”고 했다. 그는 미국은 물론 해외에서도 피해 사례가 많다고 전하며 “학교의 AI 정책의 부족, 처벌 법률의 부족, 대상자의 동의를 받지 않고 무시하는 태도”를 공통적인 문제로 꼽았다.

▲프란체스카 마니.'TIME100 AI 2024' 기사 갈무리.

프란체스카 마니의 활동은 미국의 여러 주에서 논의 중인 딥페이크 규제 법안에 영향을 미쳤다. 가디언은 그의 활동을 언급하며 “미국에서 합의 없이 성적으로 노골적으로 딥페이크를 만든 사람들을 법적으로 책임지도록 하는 새로운 법안의 촉매제”라고 했다. 프란체스카 마니는 타임지에 “제 목표는 여성과 어린이를 보호하는 것이다. 우선 학교에 대한 AI 정책 마련부터 시작해야 한다. 대부분의 타게팅이 여기에서 이뤄지기 때문”이라고 했다.

그는 지난해 12월 MIT테크놀로지리뷰와 인터뷰에서 “피해자 중 한명이 되기 전까지 AI기술이 얼마나 무서운지 잘 몰랐다”며 “누구에게나 일어날 수 있는 일이라는 걸 아는 것이 중요하다”고 했다. 그는 “15살 소녀의 목소리가 긍정적인 변화를 가져올 수 있는 나라에 살고 있다”고 밝히기도 했다.

타임지는 'TIME100 AI 2024'에 젠슨 황 엔비디아 CEO, 마크 저커버그 메타 CEO, 리앙 루보 바이트댄스 공동설립자, 이교구 서울대학교 융합과학기술대학원 교수 등을 선정했다.