구글 “AI가 답변할 수 있는 ‘선거 질문’ 제한”

세계 40여개국 선거 앞두고
허위 정보 확산 방지 등 목적

미국 대통령 선거 등 전 세계 40여개국에서 선거가 실시되는 2024년을 앞두고 구글이 허위 정보 확산 등을 막기 위해 자사 인공지능(AI) 챗봇 ‘바드’와 구글 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했다고 19일(현지시간) 밝혔다.

사진=AP연합뉴스

이날 구글은 공식 블로그를 통해 내년 초부터 바드와 구글 생성형 AI 검색 기능인 ‘검색 생성 경험(SGE)’이 응답할 수 있는 선거 관련 질문의 종류를 제한한다고 예고했다.

어떤 질문이 허용되는지는 아직 밝혀지지 않았지만, 구글은 유해한 콘텐츠를 차단하고 허위 정보 확산을 막기 위해 이 같은 결정을 내렸다고 설명했다.

또 구글은 선거 광고가 AI를 사용한 경우 이를 눈에 띄게 표기하도록 의무로 하고 있으며, 지난달 공지한 대로 향후 몇 달 안에 유튜브에서 AI 합성 콘텐츠 여부를 표기하는 라벨 기능을 도입할 예정이라고 재차 강조했다.

생성형 AI 기술이 빠르게 발전하고 있지만 여전히 AI가 잘못된 정보를 생성하거나 편향된 서술을 출력하는 경우가 종종 발견되고 있다.

지난 15일 유럽 AI 조사 기관인 AI포렌식과 알고리즘워치는 마이크로소프트(MS)의 AI 챗봇 빙이 최근 실시된 스위스 연방정부, 독일 헤센·바이에른주 선거에 대한 질문 1000여개에 답한 결과 오답률이 30%에 달했다는 연구 결과를 내놓기도 했다.

AI포렌식은 이것이 “빙만의 문제라는 뜻은 아니”라며 다른 챗봇에서도 비슷한 현상이 발견된다고 설명했다. 당시 바드는 유럽에서 운영되지 않아 연구 대상이 아니었다.

선거를 앞두고 신중해진 것은 구글뿐이 아니다. 지난달 메타는 내년부터 정치 광고에서 AI를 사용한 경우 표기를 의무화하겠다고 밝혔다. X(옛 트위터)도 내년 11월 미국 대선을 앞두고 선거 관련 콘텐츠를 관리하는 팀을 확대하겠다고 밝혔다.

윤솔 기자 sol.yun@segye.com