‘선거의 해’ 딥페이크 활개칠라…오픈AI, 방지 장치 내놨다

게티이미지뱅크

세계 76개국에서 선거가 치러지는 올해 ‘챗지피티'(ChatGPT) 제작사인 오픈에이아이(OpenAI)가 15일(현지시각) 이미지·영상 조작 기술인 ‘딥페이크’를 악용한 선거 정보 조작을 막기 위한 대책을 내놨다.

오픈에이아이는 이날 누리집에 ‘2024년 세계 선거에 어떻게 대응하는가’라는 이름의 자료를 올려 챗지피티나 인공지능 이미지 생성프로그램인 달-리(DALL-E)가 만들어낸 선거정보·이미지·동영상에 ‘인공지능이 언제·어디서 만든 정보’라는 출처를 표시하기로 했다. 나아가 올해 초까지 원본 이미지가 수정된 경우엔 제작자가 어떤 프로그램을 통해 작업했는지 확인하는 ‘이미지 찾기 기능’(detect tool)과 저작권 정보 식별 기능(워터마크)도 추가한다.

또 상대 후보자를 비방하는 목적의 이미지를 생성하지 못하도록 달-리가 특정 인물의 이미지 조작을 거부하는 ‘보호장치’가 마련된다. 대화형 로봇이 선거 출마자나 지방정부 행세를 하거나 투표 절차와 선거인 자격 등을 잘못 알려주는 식으로 민주적 절차를 어기는 앱에 대한 신고 기능도 덧붙이기로 했다.

오픈에이아이는 “인공지능 기술이 선거의 공정성을 훼손하지 못하도록 하겠다”고 밝혔다. 앞서 경쟁사인 구글도 자사 챗봇 '바드'에 문제 소지가 있는 선거 관련 질문을 제한하고, 선거 광고에 인공지능 앱 사용 여부를 눈에 띄게 표시하는 등의 대책을 내놓았다.

홍석재 기자 forchis@hani.co.kr