MS·오픈AI 등 "성적 딥페이크 확산 막겠다‥나체 이미지 삭제"

마이크로소프트와 오픈AI 등 주요 AI기업들이 성적 딥페이크 이미지 확산을 막기 위해 AI 학습 데이터에서 나체 이미지를 제거하기로 서약했다고 AP 통신이 현지시간 12일 보도했습니다.

미국 정부가 중재하고 백악관이 발표한 서약에서 AI 기업들은 "적절한 경우에" AI 학습 데이터에서 누드 이미지를 자발적으로 제거하겠다고 밝혔습니다.

미국 정부는 이미지를 기반으로 한 아동 성학대와 동의없는 성인 딥페이크 이미지 제작을 막기 위해 광범위한 캠페인을 벌이고 있습니다.

백악관 과학기술정책실은 이런 이미지가 "여성과 어린이, 성소수자를 불균형적으로 표적으로 삼아 급증했으며, 현재까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 부상하고 있다"고 밝혔습니다.

이번 서약에는 어도비와 앤트로픽, 코히어도 동참했습니다.

또 AI 챗봇과 이미지 생성기 훈련에 사용되는 핵심적인 데이터 저장소인 데이터 수집 비영리단체 커먼 크롤도 이번 서약에 부분적으로 참여했습니다.

장유진 기자(jjangjjang@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/news/2024/world/article/6636563_36445.html