구글 “올해 전세계서 선거…제미나이 관련 질문 유형 제한”

AI 악용한 가짜뉴스·딥페이크 확산 사전 예방 목적
"각국 선거 주의 기울이고 있어…양질 답변 제공해야"
4~5월 총선 치르는 인도, 경선 진행중인 美 우선 적용

[이데일리 방성훈 기자] 구글이 인공지능(AI) 챗봇인 ‘제미나이’(Gemini)의 선거 관련 질문 유형을 제한하기로 했다. 올해 전 세계적으로 역대 가장 많은 선거가 치러지는 만큼, 가짜뉴스와 딥페이크 등에 따른 혼란을 사전에 막겠다는 취지다.

12일(현지시간) CNBC, 로이터통신 등에 따르면 구글은 이날 블로그를 통해 제미나이 사용자들이 물어볼 수 있는 선거와 관련된 질문 유형을 제한할 것이라며, 올해 봄 선거를 치르는 인도에서는 이미 시행 중이라고 밝혔다. 다음달부터 5월 말까지 총선이 실시되는 인도의 유권자는 약 10억명에 이른다. CNBC는 민주당과 공화당 경선이 진행 중인 미국에서도 제한 조치가 적용중이라고 전했다.

최근 온라엔에서 가짜뉴스와 딥페이크 등 대중들에게 혼란을 줄 수 있는 콘텐츠가 범람하고 있는 것과 무관하지 않다는 분석이다. 미국의 경우 조 바이든 대통령이나 도널드 트럼프 전 대통령의 모습이 담긴 딥페이크와 함께 가짜뉴스가 대규모 유포돼 오는 11월 미 대선 결과에 영향을 미칠 수 있다는 지적이 잇따르고 있다.

구글은 앞으로 선거가 치러지는 세계 각국으로 제한 조치를 확대해 나갈 계획이다. 구글은 “작년 12월에 발표한 것처럼 2024년 전 세계에서 열리는 많은 선거에 대비해 이러한 중요한 주제와 관련해 많은 주의를 기울이고 있다”면서 “우리는 이러한 유형(선거와 관련된)의 질의에 고품질의 정보를 제공할 책임을 진지하게 받아들이고 있으며, 잘못된 정보로부터 서비스를 보호하기 위한 기능 개선을 위해서도 지속적으로 노력하고 있다”고 강조했다.

한편 이번 소식은 구글이 지난달 제미나이의 이미지 생성 기능을 일시 중단한다고 발표한지 불과 몇 주 만에 전해졌다. 제미나이 사용자들은 소셜미디어(SNS)를 통해 제미나이가 인종이나 성별을 부정확하게 묘사하고 역사적 왜곡이 심하다며 다양한 인증 사진을 게재했고, 구글 역시 오류를 인정하고 서비스 개선에 착수했다.

방성훈 (bang@edaily.co.kr)