'자동차 사고' 입력하자 속옷 차림 女가…낯 뜨거운 AI 이미지

'19금' 만든 이미지 생성기
MS, 내부 보고에도 아무 조치 안했다
AI 이미지 생성기 위험 폭로한 MS 엔지니어
보고에도 MS 무조치…"SNS 글 지워라" 요구
지금도 전체이용가로 시중 판매되고 있어
구글 제미나이 '블랙워싱' 등 유해성 논란 이어져

이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.

마이크로소프트(MS)가 인공지능(AI) 기술을 접목해 만든 이미지 생성기 '코파일럿 디자이너'. 사진=AP

마이크로소프트(MS)의 인공지능(AI) 기반 이미지 생성기가 별도 명령어 없이도 폭력·선정적인 이미지를 만들어낸다는 내부 폭로가 제기됐다. 인종 역차별 이미지를 생성해 논란이 된 구글 제미나이에 이어 또 한번 AI의 유해성 문제가 도마 위에 오를 것으로 보인다.

CNBC에 따르면 셰인 존스 MS 인공지능 엔지니어는 6일(현지시간) 회사 이사회와 리나 칸 연방거래위원회(FTC) 위원장 앞으로 MS의 이미지 생성기 '코파일럿 디자이너'의 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 보냈다. 그는 서한을 통해 "지난 3개월 간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다"고 밝혔다.

그는 "MS와 오픈AI는 지난해 10월 AI 모델이 공개되기 전까지 이러한 위험을 알고 있었다"며 "그들은 이러한 요구 사항을 이행하지 않고 '누구나, 어디서나, 모든 디바이스'라는 문구를 계속 사용했다"고 지적했다.

존스는 CNBC와의 인터뷰에서 자신이 지난해 12월부터 코파일럿 디자이너의 기술을 테스트하고 문제를 점검하는 '레드팀' 역할을 했다고 밝혔다. 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자의 음주 및 약물 사용 등의 이미지가 생성되자 그는 "안전한 모델이 아니라는 것을 깨달았다"고 한다.

존스는 다른 명령어 없이 '낙태 찬성(프로초이스)'을 프로그램에 입력하자 다 자란 아이를 휴대용 드릴로 공격하는 이미지가 만들어졌다고 했다. '자동차 사고'만 입력했을 때도 속옷 차림의 여성이 전복된 차량 옆에 무릎 끓고 있는 선정적인 이미지가 생성됐다.

존스는 즉시 상부에 우려를 전달했으나, 회사는 상품을 시장에서 철수시키지 않았다. 그러자 존스는 자신의 SNS에 조사를 위해 오픈AI의 이미지 생성기 DALL-E 3의 판매를 중단해달라는 글을 올렸다. MS 법무 부서는 존스에게 즉시 게시물을 삭제하라고 요구했다. 지난 1월에는 미국 상원의원들에게 이 문제를 알리는 서한을 썼고, 상원 관계자들을 만났다고 존스는 전했다.

존스만 이러한 문제제기를 한 것은 아니다. 그는 코파일럿 팀이 매일 1000건 이상 제품 피드백을 받고 있으며, 모든 문제를 해결하기 위해서는 새로운 보호 기능을 만들거나 모델을 재교육하는데 상당한 투자가 필요하다고 전했다. 

MS 측은 "회사 정책에 따라 직원들이 우려하는 모든 문제를 해결하기 위해 최선을 다하고 있다"고 밝혔다. 이어 "MS는 서비스 또는 파트너에 잠재적인 영향을 미칠 수 있는 안전 우회 또는 우려 사항에 대해 문제를 적절히 조사하고 해결하기 위해 강력한 내부 보고 채널을 구축했으며 직원들이 이를 활용하여 우려 사항을 적절히 검증하고 테스트할 수 있도록 권장하고 있다"고 했다.

한편 지난 4일 세르게이 브린 구글 공동창립자는 지난달 인종 역차별 이미지 논란으로 가동을 중단한 자사 생성형 AI 제미나이와 관련해 "테스트 부족으로 확실하게 망쳤다"고 밝혔다.

제미나이는 역대 미국 대통령, 교황, 알버트 아인슈타인 등 백인을 모두 흑인으로 묘사하는 '블랙워싱' 논란에 휘말렸다. 블랙워싱은 백인이 아닌 캐릭터에 백인 배우를 캐스팅한다는 '화이트워싱'의 반대말이다. 브린은 "우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다"라며 "그것은 우리 의도가 아니디"라고 설명했다.

김인엽 기자 inside@hankyung.com