“선거에 생성형AI 악용되지 않도록”…오픈AI, 어뷰징 방지 방안 발표

오픈AI 홈페이지 캡처

공화당 아이오와 코커스(전당대회)로 개막된 미국 대선 레이스, 석 달 남짓을 앞둔 우리 총선 등 2024년은 세계 40여개국에서 주요 선거를 실시해 '선거의 해'로도 일컬어진다. 가짜뉴스를 비롯해 선거 관련 생성형AI(인공지능) 악용 위험성도 지속적으로 제기돼온 가운데, 이 분야 선두주자인 오픈AI가 사칭 예방과 출처 표기 등 본격적인 대응에 나선다.

오픈AI는 15일(현지시간) '오픈AI가 2024년 전 세계 선거들에 접근하는 방법'이라는 제목으로 자사의 선거 관련 주요 이니셔티브(정책)를 홈페이지를 통해 공유했다. 생성형AI 기술 악용을 방지하고, 그 결과물의 투명성을 확보하며, 투표 정보 관련 접근성도 강화하고 있다는 게 요지다.

회사는 딥페이크나 여론 조작 또는 후보자 사칭 챗봇 등 관련 악용 사례를 예측·방지하기 위해 레드팀 테스트 등 여러 노력을 지속하며 챗GPT와 그 API(응용프로그램인터페이스) 이용 정책을 계속 갱신하고 있다고 밝혔다. 자사 생성형AI 도구로 특정 인물이나 기관인 것처럼 가장하는 챗봇을 만드는 것을 금하며, 정치 캠페인·로비용 애플리케이션에 쓰이는 것도 그 개인화 효과가 충분히 파악되기 전까진 불허한다는 방침이다.

그 일환으로 이미지 생성AI '달리(DALL-E)'에는 후보자를 포함해 특정 인물의 이미지를 만들어 달라는 요청을 거부할 수 있게 가드레일을 마련했다. 또한 '달리3'로 생성된 이미지 내에 암호화된 세부정보를 반영함으로써 그 출처나 진위 확인을 돕는 디지털 자격증명을 올해 초 구현할 예정이다. '달리'로 생성된 이미지를 감지하는 출처(provenance) 분류 도구도 테스트 중으로, 조만간 언론과 플랫폼 및 연구자 등으로 구성된 테스터그룹에 제공해 피드백을 받을 예정이다.

아울러 오픈AI는 답변에 저작권 표시(attribution)와 출처 링크가 포함되는 방식으로 이용자가 챗GPT를 통해 전 세계 실시간 뉴스에 접근할 수 있도록 한다는 계획이다. 뉴욕타임스(NYT)에겐 저작권 침해로 고소당한 상태지만 정치매체 폴리티코 등을 보유한 악셀스프링어와는 지난해 라이선스 계약을 맺었고, CNN·폭스(Fox)사·타임(Time)지와도 계약을 추진한다는 소식이 최근 전해진 바 있다. 이밖에도 회사는 공신력 있는 선거 관련 정보 제공을 위해 미국에서 가장 오래된 비당파적 공무원 조직인 NASS(주정부국무장관협회)와 협력하고 있으며, 이로써 얻은 교훈을 다른 국가와 지역에도 적용한다는 구상이다.

오픈AI는 "우리는 안전 시스템, TI(위협인텔리전스), 법률, 엔지니어링, 정책 등 팀들의 전문성을 모아 잠재적인 악용사례를 신속하게 조사해 해결하고자 선거 관련 업무에 대한 부서 간 협력 체계를 갖추고 있다"면서 "앞으로 몇 달 동안 더 많은 정보를 공유할 예정이며, 이와 관련해 파트너들과도 지속적으로 협력하고 배우기를 기대한다"고 전했다.

앞서 구글도 자사 생성형AI 챗봇 '바드'와 이를 기반으로 한 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 한 바 있다. 또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했다. 한편 이날 아이오와에서 벌어진 미국 공화당의 첫 경선에선 도널드 트럼프 전 미국 대통령이 이변 없이 압승을 거뒀다. 팽동현기자 dhp@dt.co.kr