AI에 아동 성착취 이미지 학습?...수천장 발견해 삭제

로이터연합

인공지능(AI) 학습에 쓰이는 데이터베이스에서 아동을 대상으로 한 딥페이크 성범죄에 사용될 수 있는 이미지들이 대거 포함된 사실이 발견됐다. 전문가들은 이 사실을 발견하고 이미지 삭제 조치를 했다.

30일(현지시간) AP통신에 따르면 비영리 오픈소스 이미지 데이터베이스인 LAION은 최근 미국 스탠퍼드대와 캐나다 및 영국 기관들과 협업해 데이터베이스에서 아동 성 착취 이미지 2000개 이상을 삭제했다.

LAION은 인터넷 공간의 각종 이미지를 분류한 뒤 텍스트를 이미지로 변환해주는 AI에 제공하는 데이터베이스다. 그런데 이 데이터베이스에 포함된 아동 성 착취 이미지를 AI가 학습하면 딥페이크 성범죄 등 또 다른 아동 학대로 이어질 수 있다. 실제로 최근 AI를 이용한 이미지 생성 사이트에서 아동을 대상으로 한 딥페이크 성범죄가 늘어나고 있다. AI로 인한 딥페이크 이슈는 세계적인 문제로 대두죈 상황이다.

앞서 스탠퍼드대는 지난해 12월 LAION에서 최소 1000개 이상의 아동 성 착취 이미지를 발견했다는 보고서를 내놓은 바 있다. 당시 보고서의 책임 저자인 데이비드 티엘은 LAION의 아동 성 착취 이미지 삭제를 환영했지만, 다음 조치도 이어져야 한다고 지적했다. 실제 아동 성 착취 이미지가 아니더라도 아동을 대상으로 한 딥페이크 성범죄에 사용될 수 있는 이미지의 AI 제공도 중단돼야 한다는 주장이다. 한편 전문가들은 아동 성 착취 콘텐츠와 당사자의 동의를 받지 않은 음란물을 AI 데이터베이스에서 걸러내고, 제거하기 위한 규약을 마련해야 한다는 주장을 펼치고 있다. 팽동현기자 dhp@dt.co.kr.