美 빅테크, ‘성착취 음란물’ 만드는 AI와 전쟁 선포

오픈AI, 메타, 구글 등 성착취 콘텐츠 방지 조치 합의

오픈AI와 메타, 구글 등 미국 빅테크들이 인공지능(AI) 기반의 성착취 콘텐츠로부터 아이들을 보호하기 위한 새로운 조치에 합의했다.

23일(현지시각) 미국 일간 월스트리트저널(WSJ)에 따르면 이 기업들은 비영리 단체 ‘올 테크 이즈 휴먼’(All Tech Is Human), 아동 보호 단체 ‘쏜’(Thorn)과 함께 생성형 AI 도구의 위험을 최소화하기 위한 원칙을 시행하기로 합의했다.

특히 올 테크 이즈 휴먼은 아동 성 관련물이 담겼을 수 있는 데이터 세트를 피하고 AI 학습용 자료에서 아동 성 관련물 삭제를 AI 연구소들에 요청했다고 설명했다.

또 새로운 AI 도구로 인한 법 집행의 어려움을 해소하기 위해 콘텐츠가 AI에 의해 만들어졌는지를 확인할 수 있도록 표식을 추가하기로 AI 업체들과 합의했다고 이 단체는 소개했다.

합의에 참여한 AI 업체 경영진들은 자사 AI 도구가 아동 성착취물 생성에 이용되게 하지 않을 것이라는 입장을 밝혔다.

이들은 다만 새로운 안전조치가 이행되면 관련 규제기관과의 합의 및 일부 기술적인 진전이 필요할 수도 있다고 지적했다.

미국 실종학대아동방지센터(NCMEC)에 따르면 지난해에만 3600만 건에 이르는 아동 착취물에 대한 보고가 있었다.

조선비즈