MS·오픈AI 등 빅테크 “나체 이미지로 AI 학습 안 시키겠다”

딥페이크 이미지들. /조선일보 DB

마이크로소프트(MS)와 오픈AI 등 주요 테크 기업들이 딥페이크(AI로 합성한 진짜 같은 가짜 콘텐츠) 음란물 확산을 막기 위해 인공지능(AI)을 학습시킬 때 사용하는 데이터에서 나체 이미지를 제거하기로 했다. 또 딥페이크 음란물 유포를 막기 위한 조치도 취하기로 했다. AP통신은 12일 “바이든 행정부의 중재로 빅테크 기업들이 이 같은 조치를 하기로 선언했다”며 “서약에는 MS와 오픈AI를 비롯해 어도비와 앤트로픽, 코히어가 동참했다”고 전했다.

미국 정부는 딥페이크 음란물 제작과 확산을 막기 위한 광범위한 캠페인을 진행 중이다. 여성과 어린이를 표적으로 삼은 딥페이크 음란물이 최근 급증하고 있기 때문이다. 백악관 과학기술정책실은 “현재까지 가장 빠르게 증가하는 AI의 부정적 사례”라고 설명했다

공공 웹사이트에서 데이터를 수집하는 비영리단체 커먼 크롤도 이번 서약에 참여했다. 커먼 크롤은 AI 챗봇과 이미지 생성기 훈련에 사용되는 핵심적인 데이터 저장소다. 커먼 크롤 측은 “앞으로 책임감 있게 데이터를 수집하는 등 이미지 기반 성적 학대로부터 데이터를 보호하기 위해 광범위하게 노력하겠다”고 약속했다.

이날 메타, 틱톡, 인스타그램, 범블 등은 미국 여성폭력방지법 제정 30주년과 연계한 별도의 서약에서 이미지 기반 성학대 방지를 위한 자발적 원칙을 발표했다. 서명에서 이들은 “(당사자가) 동의하지 않는 이미지가 생성되고 배포, 수익화되는 과정을 파악해야 한다”며 “이로 인한 위험을 줄이는 방법을 개발하고 지속적으로 평가해 개선해 나가겠다”고 했다.