MS SW책임자, FTC에 서한…"생성형 AI가 유해 이미지 생성"

"일반적 요청에도 유해 콘텐츠 생성"
"교통사고 질문에 성적 이미지 제공"

[파리=AP/뉴시스]마이크로소프트(MS)의 한 직원이 자사의 이미지 생성형 인공지능(AI)이 '유해한 이미지를 생성한다'는 내용의 우려 서한을 미 연방거래위원회(FTC)에 보낸 것으로 전해졌다. 사진은 프랑스 파리에 있는 마이크로소프트의 모습. 2024.3.7

[서울=뉴시스] 최현호 기자 = 마이크로소프트(MS)의 한 직원이 자사의 이미지 생성형 인공지능(AI)에 대해 '유해한 이미지를 생성한다'는 우려 서한을 미 연방거래위원회(FTC)에 보낸 것으로 전해졌다.

6일(현지시간) 미 CNN비즈니스 등 외신에 따르면 MS의 소프트웨어 엔지니어링 책임자 셰인 존스는 자신의 링크드인 페이지를 통해 이 같은 사실을 공개했다.

그는 해당 서한에서 "코파일럿 디자이너(MS의 이미지 생성형 AI)의 가장 우려스러운 부분 중 하나는 사용자의 일반적인 요청에도 불구하고 유해한 콘텐츠를 생성하는 것"이라고 지적했다.

이어 예를 들면 '교통사고'에 대한 이미지 생성을 요청했을 때 "여성이 성적으로 대상화된 이미지를 무작위로 포함하는 경향이 있다"고 언급했다.

그러면서 자신이 사측에 이같은 사실을 수개월 전부터 알렸으며, 코파일럿디자이너의 기반 기술인 오픈AI의 '달리3'(DALL-E 3)를 지속적으로 테스트해왔다고 설명했다.

또 사측에 "더 나은 보호 조치가 마련될 때까지 코파일럿디자이너를 공개적으로 사용하지 못하도록 하거나, 최소한 성인에게만 이 제품을 판매할 것을 촉구했다"고 덧붙였다.

하지만 사측은 어린이 등에게도 코파일럿디자이너가 안전하다고 마케팅하고 있다며 비판했다.

이 같은 존스의 주장에 대해 MS와 오픈AI는 입장을 내놓지 않았다. FTC도 관련 질문에 반응하지 않았다고 한다.

이번 서한은 유명 여가수 테일러 스위프트 포르노 AI 이미지 생성 등 AI 이미지 생성의 위험성이 커지는 가운데 나왔다고 CNN비즈니스는 짚었다. 또 최근 전문가들은 AI의 이미지 생성이 올해 예정된 미국 대선 등 여러 국가의 수많은 선거에서 잘못된 정치적 콘텐츠를 만들어 낼 수 있다며 경고하고 있다고도 덧붙였다.

☞공감언론 뉴시스 wrcmania@newsis.com