"수영복 사진 올렸을 뿐인데"…누드로 돌변

美 10대 여학생, AI 개발사 상대 소송

[한국경제TV 김현경 기자]

인공지능(AI)을 활용한 나체 합성(딥페이크) 사진 생성으로 인한 피해 사례가 늘면서 사회적 파장이 커지고 있다고 16일(현지시간) 미국 일간 월스트리트저널(WSJ)이 전했다.

보도에 따르면 미국 뉴저지주의 17대 소녀가 AI 이미지 생성 소프트웨어 '클로드오프'(ClothOff) 개발사인 'AI/로보틱스 벤처 스트래티지 3'을 상대로 소송을 제기했다.

이 학생은 또한 메신저 앱 텔레그램이 자동화 프로그램을 통해 클로드오프에 접근할 수 있게 했다는 이유로 텔레그램 역시 명목상 피고로 추가했다.

이 여학생은 14세 때 수영복을 입고 찍은 사진을 자신의 인스타그램 계정에 올렸는데, 고등학교 동급생인 남학생이 이 사진을 이용해 가짜 나체 사진을 만들었으며 그 도구로 클로드오프를 이용했다고 주장했다.

또 같은 반의 일부 남학생들은 이처럼 AI 도구로 생성한 여러 여학생의 가짜 나체 사진을 단체 채팅방에 올려 공유한 것으로 알려졌다.

소송을 제기한 소녀는 자신의 딥페이크 사진이 인터넷에 유포될까 봐 "끊임없는 두려움" 속에 살고 있으며, 자신과 다른 여학생들의 사진이 클로드오프의 AI 훈련에도 이용될까 봐 걱정된다고 밝혔다.

원고 측은 클로드오프 운영사가 당사자의 동의 없이 보유한 모든 누드 이미지를 삭제·파기하고, 해당 이미지를 AI 모델 훈련에 사용하지 못하도록 명령해 달라고 법원에 요청했다.

텔레그램 측은 이 소송과 관련해 "비동의 포르노그래피 및 이를 제작하는 도구는 텔레그램 이용약관에 명시적으로 금지돼 있으며 발견될 때마다 삭제된다"며 "운영진은 클로드오프 도구를 포함한 비동의 포르노그래피 생성을 위해 만들어진 봇을 정기적으로 제거한다"고 밝혔다.

(사진=연합뉴스)

김현경기자 khkkim@wowtv.co.kr