‘선거 허위 정보’ 단속 나선 빅테크

올해 세계 70여개국서 선거
구글 “챗봇 선거 답변 제한”
진위 판별 기능 보완 시급

생성형 인공지능(AI) 서비스를 제공하는 거대 정보기술(IT) 기업들이 올해 미국 대선 등 세계 70여개국의 선거를 앞두고 AI가 선거 관련 콘텐츠를 만들지 못하게 하거나, 이미 유통된 허위·조작 정보를 감지해 삭제하는 작업에 나섰다. 무료로 이용할 수 있는 AI 챗봇과 이미지 생성 서비스가 점점 늘어나고 있는 상황에서 허위·조작 정보가 무분별하게 유통되는 것을 막기 위해서다. 전문가들은 그럼에도 AI 기능의 허점을 이용해 악의적인 AI 콘텐츠가 만들어질 가능성이 있다고 지적했다.

로이터통신에 따르면 구글은 12일(현지시간) “우리 챗봇인 제미나이가 올해 있을 전 세계 선거에 관련된 질문에 답할 수 있는 범위를 제한하기로 했다”고 밝혔다. 구글은 제미나이에 ‘조 바이든 미국 대통령이 누구인가’ ‘도널드 트럼프 전 미국 대통령이 누구인가’라고 질문을 던지면 공통으로 ‘이 질문에 대한 대답을 아직 학습하는 중’이라고 답하도록 프로그램을 설정해 놓았다.

구글의 이날 발표는 AI 기술을 이용한 허위·조작 뉴스 확산에 대한 우려가 커지는 가운데 나왔다. 최근 온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등을 묘사한 AI 허위 이미지가 퍼졌다.

지난달 16일에는 마이크로소프트, 구글, 오픈AI, 틱톡 등 전 세계 주요 20개 IT 기업이 독일 뮌헨안보회의에서 유권자들을 혼란스럽게 할 수 있는 딥페이크(AI를 기반으로 하는 인간 이미지 합성 기술) 콘텐츠를 만들거나 유통하는 것을 방지하는 데 힘쓰기로 한 합의문을 발표했다. 이들 기업은 유권자에게 영향을 줄 수 있는 딥페이크 콘텐츠를 감지하는 기술을 개발하고, 문제의 콘텐츠에는 딥페이크임을 알리는 라벨을 붙이기로 했다.

하지만 기업들은 선거와 관련한 허위 정보 콘텐츠의 확산을 온전히 막지는 못하고 있는 상황이다. 영국의 비영리단체 ‘디지털 혐오 대응 센터’(CCDH)가 지난 6일 공개한 보고서에 따르면 오픈AI의 챗GPT 플러스와 스태빌리티의 드림스튜디오, 마이크로소프트의 이미지 크리에이터, 미드저니 사이트에 선거 관련 허위 정보를 담은 문장 160가지를 입력한 결과 41% 확률로 이미지가 그대로 그려졌다. 연구책임자 캘럼 후드는 “투표소 관련 허위 이미지를 생성하라고 입력했을 때 네 플랫폼 모두에서 이미지가 그대로 나왔다”며 “(허위 정보가 담긴) 이미지 일부를 만들었다는 것은 키워드 필터링 등 기능에 보완할 점이 있다는 것을 보여준다”고 BBC에 말했다.

윤기은 기자 energyeun@kyunghyang.com