MS·오픈AI “딥페이크 막기 위해 나체 이미지 제거”…한국은?

진보넷 “네이버 등 국내 빅테크도 조처 시급”

게티이미지뱅크

마이크로소프트(MS)와 오픈에이아이(AI) 등 미국의 인공지능 기업들이 성적인 딥페이크(불법합성물) 이미지의 확산을 막기 위해 인공지능 학습 데이터에서 나체 이미지를 없애기로 했다. 광범위한 딥페이크 성범죄가 드러난 국내에서도 인공지능 활용 기업들이 대책을 마련해야 한다는 목소리가 나온다.

마이크로소프트 등은 12일(현지시각) 미국 백악관의 중재로 발표한 서약에서 “적절한 경우와 (에이아이) 모델의 목적에 따라 에이아이 학습 훈련 데이터 세트에서 나체 이미지를 자발적으로 제거하겠다”고 약속했다고 에이피(AP)통신은 전했다. 이번 서약에는 어도비, 앤트로픽, 코히어 등도 참여했다.

마이크로소프트를 비롯한 메타, 틱톡, 범블, 디스코드 등은 이날 별도의 서약으로 이미지 기반 성적 학대를 방지하기 위한 자발적 원칙을 발표했다.

이번 발표는 이미지 기반 아동 성 학대와 동의 없는 성인 딥페이크 이미지 제작에 맞서 미국 정부가 주도하고 있는 캠페인의 하나로 이뤄졌다. 백악관 과학기술정책실은 성명에서 “(이런 이미지는) 여성, 어린이, 성소수자를 불균형적으로 표적으로 삼아 급증했다. 현재까지 가장 빠르게 증가하는 에이아이의 유해한 사용 사례 중 하나로 부상하고 있다”고 지적했다.

한편, 한국의 정보통신운동단체인 진보네트워크센터(진보넷)는 같은 날 성명을 발표해 딥페이크 범죄 등에 손을 놓고 있는 국내 에이아이 기술 활용 기업을 비판했다. 진보넷은 “해외 빅테크만의 문제가 아니다”며 “최근 국내 빅테크 네이버의 자회사 스노우의 카메라 어플리케이션 ‘소다’가 여성 이용자의 의사와 전혀 상관없이 성적 불쾌감을 일으키는 사진을 인공지능으로 생성한다는 것이 알려졌다”고 지적했다.

진보넷은 “하지만 스노우와 일부 임직원들은 불쾌한 성적 이미지 생성에 대해 여성 이용자가 불만을 제기했음을 인지한 후에도 ‘인공지능 생성물을 100% 통제할 수 없다’며 책임을 회피하고 있다”고 비판했다. 진보넷은 “네이버를 비롯한 인공지능 기업들이 표방해온 인공지능 윤리가 공허한 말에 그치지 않기 위해서는 기술적, 조직적 대책이 갖춰져야 한다”며 “국회가 논의하는 인공지능 법안에 인공지능 사업자가 자기 제품·서비스가 유발할 성 착취 위험을 방지하는 주의를 다 하도록 책임을 부과할 것을 강력히 촉구한다”고 밝혔다.

임재우 기자 abbado@hani.co.kr