성인콘텐츠 뺐더니 망가진 AI? “신체 표현 엉망”…AI 학습 방식 논란

스테이블디퓨전3 성능 후퇴 논란
커뮤니티 “별도 AI 만들겠다”

스테이블디퓨전3가 만든 이미지 (출처 레딧)

스테이빌리티AI가 이달 12일 출시한 이미지 생성형 인공지능인 ‘스테이블 디퓨전 3’을 둘러싼 논란이 치열해지고 있다. 스테이빌리티AI는 디퓨전3에 대해 “가장 진보된 이미지 AI”라고 강조했지만, 신체 표현이 예전만 못하다는 지적이다. 특히 스테이빌리티AI가 이번 버전에서 성인물을 AI 학습에서 제외한 결과 아니냐는 분석이 나오고 있다.

1일 404미디어에 따르면, 소셜미디어 레딧을 중심으로 인체 생성 오류를 지적하는 글들이 잇따르고 있다. 404미디어는 “성인 콘텐츠가 훈련 데이터에서 필터링된 결과로 추정된다”면서 “이에 따라 스테이블 디퓨전 커뮤니티와 일부 관련 기업들은 새로운 라이선스가 사업 모델과 맞지 않다고 염려하고 있다”고 말했다.

스테이블디퓨전3가 만든 이미지 (출처 레딧)

스테이빌리티 AI는 이번에 성인 콘텐츠를 필터링한 훈련 데이터를 사용했다. 모델의 능력을 제한한 것이다. 시빗AI의 창업자인 저스틴 마이어(Justin Maier)는 “이러한 안전 조치는 우리를 위한 것이 아니라 스테이빌리티 AI의 책임 회피를 위한 것”이라며 “성인 콘텐츠를 제대로 포착하지 못한 결과가 인체 생성 오류로 이어졌다”고 주장했다.

이에 사용자들은 별도 이미지 AI 구축을 추진하고 있다. ‘오픈 모델 이니셔티브(Open Model Initiative)’다. 개방형 라이선스를 가진 AI 모델 개발을 추진하겠다는 포부다. 통상 AI 개발사는 데이터 제공자·사용자와 라이선스를 각각 맺는다. 예를 들어 훈련 데이터에 대한 사용 권한을 확보하고, 성인 콘텐츠와 같은 특정 콘텐츠를 필터링하거나 제한하는 조건에 대한 계약을 맺는다. 또 최종 사용자가 AI 모델을 어떻게 사용할 수 있는지에 대해서도 협의를 하는 것이 관행이다.

스테이블디퓨전3가 만든 이미지 (출처 레딧)