"MS AI가 유해 이미지 만들었다... 사용 막아야" 엔지니어의 폭로

"유해 콘텐츠 생성 막는 안전장치 우회"
MS 엔지니어가 FTC에 서한 보내 고발

마이크로소프트의 생성 인공지능 도구 '코파일럿'의 이미지. AP 연합뉴스

마이크로소프트(MS)의 이미지 생성 인공지능(AI)이 유해 이미지를 생성하는 오류를 범하고 있다고 회사 내부자가 폭로했다. MS도 이를 알면서 묵인하고 있으므로 안전장치 확보 전까지는 소비자들의 이용을 막아야 한다는 취지다.

6일(현지시간) 미국 CNBC방송 등에 따르면, MS 소프트웨어 엔지니어인 셰인 존스는 자사 AI 이미지 생성 도구인 '코파일럿 디자이너'의 유해 콘텐츠 생성을 고발하는 내용의 서한을 미 연방거래위원회(FTC)에 보냈다고 자신의 소셜미디어를 통해 밝혔다. 존스는 서한에서 "(MS가 투자하는) 오픈AI의 최신 이미지 생성 모델인 '달리'에서 보안 취약점을 발견했다"며 "이를 통해 유해한 이미지 생성을 막는 안전장치를 우회할 수 있었다"고 주장했다. MS의 코파일럿 디자이너는 달리를 기반으로 제작된 이미지 생성 도구여서 같은 문제가 나타날 수밖에 없다.

미국 마이크로소프트의 엔지니어인 셰인 존스. 미 연방거래위원회(FTC)에 MS 내부 문제를 폭로하는 서한을 보낸 인물이다.

존스는 "코파일럿 디자이너가 부적절하고 대상화된 여성의 이미지를 무작위로 생성하는 경향이 있고, 정치적 편견과 미성년자 음주 등 다양한 범위에서 유해한 콘텐츠를 생성했다"고 설명했다. 그러면서 "MS는 (이 도구를) 어린이를 포함해 누구나 사용할 수 있는 안전한 AI 제품으로 마케팅하고 있으나, 내부적으로는 소비자에게 불쾌하고 부적절한 이미지를 생성할 수 있다는 문제를 잘 알고 있다"며 "회사 측에 '더 나은 안전장치가 마련될 때까지 대중이 사용하지 못하도록 해야 한다'고 말했다"고 덧붙였다. 그가 이런 서한을 FTC에 보낸 건 당국에 '실태를 제대로 파악하고 규제하라'고 촉구하려는 의도로 읽힌다.

현재 미국 연방정부 차원의 AI 규제는 없다. 연방 의회는 지난해부터 AI 규제법을 논의 중이지만, 좀처럼 속도를 내지 못하고 있다. AI의 파급력을 감안할 때, 개발 과정에서부터 정부가 관리·감독할 필요가 있다는 목소리가 크다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com