美 AI기업, 대선후보 이미지 생성 막는다…“선거 왜곡 우려”

미드저니, 24개월 동안 금지 방안 추진

미국 대선 후보인 바이든 대통령과 트럼프 전 대통령이 서로 상대방을 응원하는 모습을 미드저니 모델V6 알파로 만들었다. 현재 정치적 이미지에 대한 문구 생성은 금지된 상태다. (출처=매일경제)

생성형 인공지능 기업인 미드저니(Midjourney)가 주요 미국 대선 후보의 정치적 이미지를 생성하는 것을 금지하는 방안을 추진한다고 11일(현지 시각) 영국 가디언이 밝혔다.

데이비드 홀츠(David Holz) 미드저니 CEO는 “미드저니가 2024년 미국 대통령 선거와 관련해 조 바이든(Joe Biden)과 도널드 트럼프(Donald Trump)와 같은 주요 대선 후보의 정치적 이미지 생성을 금지하는 것을 고려하고 있다”고 밝혔다.

이번 조치는 선거를 방해하거나 잘못된 정보를 퍼뜨리는 데 사용되는 것을 방지하기 위한 노력의 하나다. 홀츠는 “현재로선 우리 플랫폼이 정치적 표현에 얼마나 관심을 가져야 할지 모르겠다”면서도 “향후 12개월 동안 주요 대선 후보를 포함한 정치 이미지를 ‘금지’하는 방안을 검토하고 있다”고 설명했다.

AI 생성 이미지에 대한 우려는 최근 들어 급증하고 있다. 특히 테일러 스위프트(Taylor Swift)를 AI로 합성한 포르노그래픽 이미지가 소셜미디어에 퍼지면서 염려감은 더욱 고조됐다. 특히 해당 이미지는 이미지 보드인 포챈(4chan)을 통해 급격히 퍼졌다. 생성 AI로 만든 성적, 인종차별적, 음모론적, 폭력적 이미지가 커뮤니티 메시지 보드를 통해 확산한 것이다.

앞서 미드저니는 수갑을 차는 트럼프 이미지를 제작하는데 사용된 바 있다. 또 스웨터를 뜨는 노인으로 변한 바이든과 트럼프, 기관총을 쏘며 활짝 웃는 바이든, 백악관에서 교황 프란치스코를 만나는 트럼프 등도 미드저니를 통해 제작됐다. 특히 미드저니 V6.0 알파모델이 등장하면서, 사진에 글자를 새기는 것이 가능해졌다. 미드저니는 선거를 앞두고 현재 대선 후보 이미지에 글자를 반영하는 것을 금지한 상태다.

앞서 메타는 AI 도구를 토대로 생성된 게시물에 라벨을 붙이는 방안을 검토하겠다고 발표했다. 또 오픈AI는 생성형 이미지에 워터마크를 부착하는 방안을 검토하고 있다. 하지만 이런 대책이 미봉책이라는 지적이 있다. 생성된 이미지를 스크린샷으로 캡처할 경우 AI가 작성한 이미지인지 알 수 없으며, AI 대상물 지우개(오브젝트 리무버)로 워터마크를 삭제할 수 있다. 미드저니의 커뮤니티 표준 지침은 ‘불쾌하거나 해로운, 공공 인물·사건의 잘못된 묘사 또는 오해의 소지가 있는 이미지 생성을 금지한다’ 명시하고 있다. 하지만 블룸버그는 현재 해당 규정은 미드저니 엔진 버전에 따라 다르다고 설명했다.