AI 훈련용 데이터서 아동 성학대 사진 2000장 삭제

AI 훈련용 데이터베이스 라이온(LAION)-5B. /라이온(LAION)-5B

스테이블디퓨전, 미드저니 같은 생성형 인공지능(AI) 이미지 학습에 쓰이는 데이터베이스에서 아동 대상 성착취 관련 이미지들이 대거 삭제됐다. 미성년자 성 착취물 등이 유포되는 것을 방조했다는 등의 이유로 지난달 28일 텔레그램 창업자 파벨 두로프가 프랑스 법원에 예비 기소되자 이에 대한 대응이라는 분석이 나온다.

30일 AP통신, 테크크런치 등은 비영리 오픈 소스 이미지 데이터베이스인 라이온(LAION·Large-scale Artificial Intelligence Open Network)이 이날 기관들과 협업해 데이터베이스에서 아동 성착취 이미지 2000개 이상을 삭제했다고 밝혔다. 라이온은 이날 블로그 게시물에서 “라이온은 데이터베이스에서 불법 콘텐츠를 제거하는 데 전념해왔다”며 “앞으로도 불법 콘텐츠가 발견되면 최대한 빨리 삭제한다는 원칙을 엄격하게 고수할 것”이라고 밝혔다.

라이온은 일종의 생성 AI 이미지 데이터베이스다. 라이온은 인터넷 공간의 각종 이미지를 분류해 이를 텍스트를 이미지로 변환해주는 이미지 생성 AI 툴에 제공한다. 세계적으로 가장 많이 쓰이는 생성 AI 이미지 앱인 스테이블 디퓨전, 미드저니 등이 이곳에서 데이터베이스를 받아다가 모델을 학습시킨 것으로 알려져있다.

이번 삭제 조치는 생성 AI를 학습시키는 데이터베이스에 아동 성착취 이미지가 존재해 딥페이크 성범죄가 활개치는 것 아니냐는 지적이 잇따르는 가운데 나왔다. 실제 한국과 미국 등에서는 미성년자를 대상으로 한 성적 딥페이크물이 제작돼 논란이 되고 있다. AP는 “샌프란시스코는 성적 착취물을 만들 수 있게 하는 웹사이트그룹을 폐쇄하기 위해 소송을 제기했다”며 “텔레그램 창업자 파벨 두로프를 프랑스 당국이 기소하게 된 계기도 아동 성착취 이미지를 배포했다는 혐의 때문”이라고 설명했다.

앞서 스탠퍼드대는 작년 12월 라이온에 최소 1000개 이상의 아동 성착취 이미지가 존재한다는 보고서를 발표했다. 당시 스탠퍼드대는 “소셜미디어와 성인 웹사이트에서 스크래핑한 불법 이미지가 최소 1679개 포함되어 있다”며 “이를 활용해 훈련된 모델은 사용 중단되어야 하며 가능한 경우 배포를 중단해야 한다”고 권고했다.

국제인권단체인 휴먼라이트워치(HRW) 측은 라이온의 조치에 대해 환영을 뜻을 밝혔다. HRW는 현지 언론에 “이같은 조치는 아동의 사진을 오용하는 것을 방지하는 게 도움이 될 것”이라며 “이제 모든 아동의 온라인 프라이버시를 보호하는 아동 데이터 보호법을 통과시키는 것은 정부의 몫”이라고 말했다.