선거 정보 30%가 가짜… 구글, AI 답변 차단

美대선 후보 묻자 사퇴한 인물 제시
여론조사도 조작

세계 최대 검색 기업 구글이 내년부터 선거 관련 질문에 대한 자사 인공지능(AI)의 답변을 제한한다. 19일(현지 시각) 구글은 “내년 미국 대통령 선거를 포함해 여러 선거가 전 세계에서 치러지는 가운데, AI의 선거 관련 답변에 제약을 두기로 했다”며 “AI 선거 관련 응답의 팩트 여부·공정성 등을 검토한 결과”라고 밝혔다. 이에 따라 내년 초부터 구글의 AI인 바드가 응답하는 선거 관련 질문은 구글이 선정한 별도 외부 기관을 통해 검증된 후보자, 투표 방법, 장소 등으로 제한된다. 구글은 또 선거 관련 정보는 출처를 반드시 제시하고, AI가 스스로 교차 검증하는 장치도 도입할 계획이다.

구글이 회사 경쟁력의 핵심인 AI 서비스를 제한한 것은 AI가 선거와 관련한 엉터리 정보를 쏟아내고 있기 때문이다. 구글 바드뿐만 아니라 오픈AI 챗GPT, 마이크로소프트 코파일럿 등 빅테크의 AI 챗봇은 선거와 정치 관련 사안에 잘못된 답변을 내놓거나 허위 정보를 만들어내기 때문이다. AI 챗봇이 내놓는 선거 관련 정보의 30%가 오답이라는 연구 결과도 나왔다. 빅테크 챗봇들은 사퇴한 미국 대선 후보를 유력 후보로 제시하거나 존재하지도 않는 여론 조사를 지어내는 경우도 있다. 정확한 정보 전달은커녕, 서비스 신뢰도만 떨어뜨리고 있는 것이다.

구글이 공개한 대규모 언어 모델(LLM)인 인공지능(AI) ‘제미나이 1.0’./legaltech-talk.com

한국도 예외가 아니다. 본지가 20일 주요 AI 챗봇에 내년 한국 총선 관련 질문을 하자 AI 챗봇은 한동훈 법무부 장관, 홍준표 대구시장, 오세훈 서울시장을 더불어민주당 후보로 구분하거나 ‘이재명 민주당 대표가 총선 불출마 선언을 했다’는 엉뚱한 답변을 내놓았다. 민주당이 여당이라거나 ‘이재명 대표 체포 동의안이 가결됐다’고 답하는 등의 오류도 있었다.