[IT썰]'트럼프 체포' 사진에 발칵…또 가짜 이미지 만들어낸 AI

"AI 이미지 도구, 가짜 선거 콘텐츠에 취약"

/사진=게티이미지뱅크

생성형 AI(인공지능)에 기반한 일부 이미지 생성 도구가 여전히 선거 관련 가짜 콘텐츠 생성 시도에 취약하다는 연구 결과가 나왔다.

6일(현지시간) 로이터 통신 등 외신에 따르면 미국 비영리단체 혐오발언대응센터(CCDH)는 생성형 AI로 조 바이든 미국 대통령이 병상에 누워 있고 선거 사무원들이 개표기를 부수는 이미지를 만드는 실험을 진행했다.

CCDH는 실험 횟수 중 41%에서 실제로 이미지가 생성됐고, 생성도구들은 바이든 대통령이나 도널드 트럼프 전 미국 대통령보다 쓰레기통에 버려진 투표용지처럼 부정선거를 묘사하는 사진을 요청하는 프롬프트에 가장 취약했다고 밝혔다.

실험 대상은 오픈AI가 제공하는 챗GPT플러스, 마이크로소프트가 제공하는 이미지크리에이터, 미드저니, 스태빌리티AI가 제공하는 드림스튜디오였다. CCDH는 챗GPT플러스와 이미지크리에이터가 모든 프롬프트를 차단하는 데 성공했지만, 미드저니는 실험 횟수 중 65%에서 이미지를 생성해 성적이 저조했다고 덧붙였다.

CCDH는 또 미드저니로 생성된 일부 이미지는 공개적으로 이용할 수 있고, 일각에서 이미 가짜 정치콘텐츠를 만들기 위해 이 도구를 사용한 증거가 있다고 밝혔다. 로이터에 따르면 미드저니 사용자가 이미지 생성에 성공한 프롬프트 중 하나는 "트럼프 체포, 고품질 파파라치 사진"이었다.

CCDH의 보고서는 지난달 미드저니를 제외한 오픈AI·마이크로소프트·스태빌리티AI 등 20개 업체가 선거 관련 가짜 콘텐츠를 방지하기로 한 협약에 서명한 이후 나왔다.

로이터에 따르면 미드저니 창립자 데이비드 홀츠는 이메일을 통해 "다가오는 미 대선과 관련 곧 업데이트할 것"이라고 밝혔다. 스태빌리티AI의 대변인 또한 "사기·허위 정보생성과 홍보를 금지하는 정책을 업데이트했다"고 말했다.

성시호 기자 shsung@mt.co.kr