구글 다양성 존중 알고리즘에 제미나이 이미지 생성 오류 이미지 서비스 일시 중단하고 공식 사과…“조만간 수정”
구글 제미나이가 그린 일론머스크 . 다양성을 존중해 흑인으로 그렸다 (출처=TaraBull X계정)
구글이 생성형 인공지능(AI)인 제미나이 서비스 중 인물 이미지 생성 기능을 중단한다고 24일 발표했다. 구글은 제품부문 수석 부사장인 프라바카 라가반 명의 발표를 통해 “제미나이가 특정 그룹의 이미지를 생성하지 않게 하거나, 역사적 또는 그 어떤 이미지를 부정확하게 만들기를 원치 않는다”고 강조했다. 그러면서 그는 “특정 유형의 사람의 이미지를 요청할 때 예를 들어 ‘교실에서 수업 중인 흑인 교사’나 ‘개와 함께 있는 백인 수의사’ 또는 특정 문화적 또는 역사적 맥락에서의 사람들, 정확하게 반영된 응답을 받아야 한다”고 설명했다. 구글은 크게 두가지 문제를 시인했다. 하나는 지나치게 다양성을 존중했다는 것이고, 둘째는 알고리즘이 보수화됐다는 것이다. 라가반 수석부사장은 “제미나이가 다양한 사람들을 보여주도록 조정하는 과정에서 분명히 보여서는 안 될 경우들을 고려하지 못했다”면서 “시간이 지남에 따라 모델이 의도한 것보다 훨씬 더 조심스러워져, 일부 매우 평범한 프롬프트를 민감하게 잘못 해석하여 전혀 응답하지 않게 됐다”고 말했다.
구글 제미나이가 그린 흑인 앨버트 아인슈타인 (출처=DogeDesigner X계정)
구글은 현재 제미나이의 이미지 생성 기능을 전면 중단한 상태다. 구글 제미나이에서 이미지 생성을 요청하면 “아직 이미지를 생성할 수 없기 때문에 도움을 드릴 수 없습니다”는 문장이 나온다. 이에 대해 구글은 향후 인물 관련 프롬프트에 대해 “상당히 개선할 것”이며 “광범위한 테스팅을 거친 후 다시 활성화할 것”이라고 말했다. 앞서 뉴욕타임스 등 외신에 따르면 제미나이는 ‘1943년 독일군’을 그리라는 명령에 여성 흑인 등 이미지를 만들어냈다. 실제로 X계정에는 다양한 구글 제미나이의 이미지 오류 그림들이 올라와 있다.
