AI업계, 美 대선 앞두고 `정치 이미지` 생성 제한 추진

로이터연합

미국 AI(인공지능) 기업들이 11월 대선을 앞두고 자사 AI로 정치적 이미지를 만드는 것을 막는 방안을 추진한다.

10일(현지시간) 영국 가디언에 따르면 AI 기업 미드저니는 대선 때까지 조 바이든 대통령이나 도널드 트럼프 전 대통령에 대한 정치적 이미지를 만들지 못하게 막는 방안을 추진한다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇 '파이'를 이용해 특정 정치 후보를 지지하는 발언을 하지 못하는 조치를 할 계획이라고 밝혔다.

그에 앞서 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI는 최근 자사 AI로 생성된 이미지에 라벨을 부착해 특정 이미지 출처를 구별할 수 있게 하겠다고 밝혔다.

오픈AI는 "선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력하는 게 필요하다"라며 "우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다"고 밝혔다.

AI 기업들의 이런 시도는 대선을 앞두고 AI가 생성한 딥페이크(Deep fake·AI로 만든 영상, 이미지, 음성 조작물) 이미지에 대한 규제 목소리가 커지는 가운데 나왔다.

최근 온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등 AI로 생성된 이미지가 속속 올라오며 혼란을 주고 있다. 지난달에는 뉴햄프셔주 프라이머리를 하루 앞두고 민주당 당원에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화가 걸려 오기도 했다.

이에 대응해 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지하는 등 대책을 내놓을 계획이다. 그 외에도 미국에서는 AI를 활용한 딥페이크 선거운동을 규제하는 법안 발의가 잇따르고 있다. 팽동현기자 dhp@dt.co.kr