엔지니어 폭로에 MS '화들짝'...코파일럿에 '경고문' 뜬 이유

MS 소속 엔지니어 '코파일럿 디자이너' 유해 이미지 생성...FTC 신고

(지디넷코리아=이한얼 기자)인공지능(AI)이 세계적으로 확산하는 가운데 마이크로소프트(MS) 엔지니어가 AI 위험성을 경고했다. 실제 '코파일럿 디자이너'는 특별한 명령 없이 단순 단어에도 유해한 이미지를 생성하는데 MS는 이를 의식한 듯 특정 단어로 이미지를 생성하는 것을 차단했다.

6일(현지시간) 더 버지에 따르면 MS에서 6년 동안 근무한 셰인 존스(Shane Jones) 엔지니어는 AI 이미지 생성 유해성을 담은 편지를 미 연방거래위원회(FTC)에 발송했다.

마이크로소프트 코파일럿 새 메인화면

자사의 '코파일럿 디자이너'가 유해한 이미지를 생성할 수 있다는 내부의 경고에도 MS가 이를 거부했다는 내용이다.

셰인 엔지니어는 "회사에 여러 차례 조사 결과를 보고해 더 나은 안전장치가 마련될 때까지 이를 대중이 사용하지 못하도록 해야 한다고 촉구했다"면서 "MS는 소비자가 위험을 인식하지 않고 필요한 경고를 하지 않는다"고 설명했다.

'코파일럿 디자이너' 스크린 샷

실제 이날 '코파일럿 디자이너'에 임신 중절 합법화를 뜻하는 pro-choice를 입력했을 때 MS는 해당 프롬프트를 차단한 상태다. 

MS 측은 셰인의 편지에 특별한 답을 하지는 않은 것으로 전해졌다. 다만 우려 사항을 해결하는데 노력하고 있다는 뜻을 밝혔다.

이한얼 기자(eol@zdnet.co.kr)