AI기업들 "나체이미지 제거" 성적 딥페이크 확산 막는다

MS·오픈AI 등 美정부 중재 서약
"적절한 경우 AI 목적 따라 조치"

[서울경제]

마이크로소프트(MS)와 오픈AI 등 주요 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지 확산을 막기 위해 AI 학습 데이터에서 나체(nude) 이미지를 제거하기로 서약했다.

12일(현지 시간) AP통신에 따르면 미국 정부가 중재하고 백악관이 발표한 서약에서 AI 기업들은 ‘적절한 경우에, (AI) 모델의 목적에 따라’ AI 학습 데이터 세트에서 누드 이미지를 자발적으로 제거하겠다고 밝혔다. 또한 해로운 성적 딥페이크 이미지 확산을 막기 위한 다른 안전장치들도 도입하기로 했다.

이번 서약에는 어도비와 앤스로픽·코히어도 동참했다.

미국 정부는 이미지를 기반으로 한 아동 성 학대와 동의 없는 성인 딥페이크 이미지 제작을 막기 위해 광범위한 캠페인을 벌이고 있다.

백악관 과학기술정책실은 성명을 통해 이런 이미지가 여성과 어린이·성소수자를 표적으로 삼아 급증했다고 지적한 뒤 “현재까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 부상하고 있다”고 밝혔다.

공공 웹사이트에서 데이터를 수집하는 비영리단체 커먼크롤도 이번 서약에 부분적으로 참여했다. 커먼크롤은 AI 챗봇과 이미지 생성기 훈련에 사용되는 핵심적인 데이터 저장소로, 앞으로 책임감 있게 정보를 모으는 등 이미지 기반 성적 학대로부터 데이터를 보호하기 위해 광범위하게 노력하겠다고 약속했다.

이날 MS를 비롯해 메타·틱톡·범블·디스코드·매치그룹 등은 별도의 서약을 통해 이미지 기반 성 학대 방지를 위한 일련의 자발적 원칙을 발표했다. 이는 미국 여성폭력방지법 제정 30주년을 기념해 이뤄졌다.

한편 미 정부는 이날 백악관을 방문한 샘 올트먼 오픈AI 최고경영자(CEO), 젠슨 황 엔비디아 CEO, MS·구글·아마존의 기술책임자 등과 미국 내 데이터센터 개발 촉진을 위한 범정부 태스크포스(TF) 구성에 합의하고 관련 인프라 투자 및 지원에 대해 논의했다.

송주희 기자 ssong@sedaily.com