국제구호단체들이 AI로 만드는 ‘빈곤 포르노’

자선단체 플랜 인터내셔널이 아동 결혼 반대 캠페인을 위해 AI로 만든 사진. /유튜브 캡처

인공지능(AI)이 생성한 ‘빈곤 이미지’가 국제 구호 단체들의 온라인 홍보에 무분별하게 사용되고 있다는 지적이 나왔다. 기부금을 더 많이 끌어내기 위해 가난이나 고통을 자극적으로 과장하는 ‘빈곤 포르노(poverty porn)’는 윤리적으로 금기시되고 있다. 하지만 기부 단체들은 동의를 구할 필요가 없고, 비용도 줄일 수 있는 AI로 새로운 형태의 빈곤 포르노를 제작하고 있는 것이다.

벨기에 앤트워프 열대의학 연구소의 아르세니 알레니체프 연구원은 국제 학술지 랜싯 글로벌 헬스의 논평을 통해 “AI가 생성한 빈곤 이미지 사용이 증가하고 있다”며 “실제 캠페인에 사용된 것은 물론, 사진 아카이빙 사이트에도 이 같은 이미지가 게재되고 있다”고 했다.

알레니체프 연구원은 소셜 캠페인의 일환으로 사용되는 극심한 빈곤 AI 이미지 100장을 수집했다. 진흙탕에 웅크린 아이들, 웨딩드레스를 입고 눈물로 뺨을 적신 아프리카 소녀 등이 대표적이다. 연구팀은 AI 생성 이미지의 보급률을 정량화하기는 어렵지만 AI 이미지 사용이 증가하고 있다고 지적했다. 아동의 동의를 구하는 번잡한 절차 없이 저렴한 비용으로 홍보용 이미지를 만들 수 있기 때문이다.

AI가 만든 빈곤 이미지는 이미지를 모아놓는 사이트인 어도비 스톡, 프리픽 등에 수십 장씩 게재되고 있다. ‘빈곤(poverty)’으로 검색하면 물통을 들고 모랫길을 걷고 있는 여성, 난민 수용소의 사실적인 아이 등 이미지가 등장한다. 연구팀은 “아프리카나 인도, 또는 그 외 다른 나라에 대한 최악의 고정관념을 재생산하는 것”이라고 했다.

실제로 자선단체 플랜 인터내셔널은 아동 결혼 반대 캠페인에서 가정 폭력을 당한 여자아이의 AI 이미지를 사용했다. UN 역시 지난해 유튜브에 분쟁 중 성폭력 생존자들의 증언을 재연한 형태의 AI 영상을 게재했다. 영국 가디언은 “전 세계 보건 커뮤니케이션에서 편향된 이미지가 확산됨에 따라 문제가 더욱 악화될 수 있다”고 했다.