수갑 찬 트럼프? AI로 정치 이미지 생성 제한

[한국경제TV 박근아 기자]

미국에서 11월 대선을 앞두고 인공지능(AI) 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토 중이다.

10일(현지시간) 영국 가디언은 AI 이미지 생성 기업 미드저니가 대선을 치르기까지 조 바이든 대통령이나 도널드 트럼프 전 대통령에 대한 정치적 이미지 생성을 제한하는 방법을 검토 중이라고 보도했다.

데이비드 홀츠 미드저니 최고경영자(CEO)는 향후 1년간 유력 대선 후보와 관련된 이미지 생성을 금지 또는 제한할 예정이라고 밝혔다.

AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇 '파이'가 특정 정치 후보를 지지하는 발언을 하지 못하도록 조치할 것이라고 알렸다.

챗GPT 개발사 오픈AI도 지난주 자사 AI로 생성된 이미지에는 라벨을 새겨 이미지 출처를 구별할 수 있게 하겠다고 밝혔다.

오픈AI는 "선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다"라며 "우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다"고 설명했다.

최근 온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등 AI로 생성된 이미지가 널리 퍼지고 있다.

지난달 뉴햄프셔주 프라이머리 전날에는 바이든 대통령의 목소리로 민주당 당원에게 투표를 거부하라고 하는 가짜 전화가 걸려 오면서 딥페이크가 선거에 미칠 영향에 대한 우려가 증폭됐다.

이에 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했다. 그 외에도 AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의가 잇따르고 있다.

(사진=연합뉴스)
박근아기자 twilight1093@wowtv.co.kr