체면 구긴 구글 AI 검색 “오바마는 무슬림” 논란

돌 먹어야 하나 묻자 “하루 1개씩”
AI 오버뷰, 잇단 허위정보 답변
구글 “특정 질문 제거 신속 조치중”
“기술 준비 전 너무 일찍 사용” 지적

구글의 ‘AI 오버뷰’에 “미국에 얼마나 많은 무슬림 대통령이 있었는가”라는 질문을 입력하자 “버락 오바마는 미국 최초의 무슬림 대통령”이라는 잘못된 답변이 나온 모습. 사진 출처 X(옛 트위터)

“버락 오바마는 미국 최초의 무슬림 대통령이다.”

구글의 새로운 검색 기능 ‘인공지능 오버뷰(AI Overview)’가 ‘미국에 얼마나 많은 무슬림 대통령이 있었는가’라는 질문에 내놓은 답변이다. 구글은 14일부터 자사 생성형 AI ‘제미나이’를 검색 엔진에 본격적으로 적용해 사용자의 검색에 요약된 답변을 미리 보기처럼 내놓고 있다.

결론부터 말하면 해당 답변은 사실이 아니다. 버락 오바마 전 대통령 재임 시절 반대파들이 그의 중간 이름이 ‘후세인’인 점과 결부시켜 퍼뜨렸던 허위 정보를 답변으로 제시한 것이다. 오바마 전 대통령의 종교는 기독교이지만 케냐인 아버지로부터 물려받은 후세인이라는 중간 이름 때문에 일부 미국인은 그를 무슬림으로 오해하고 있다.

24일 미 정보기술(IT) 전문매체 더버지 등에 따르면 최근 X(옛 트위터) 등 미 소셜미디어에선 AI 오버뷰의 잘못된 답변이 논란이 되고 있다. 사용자가 ‘하루에 몇 개의 돌을 먹어야 하나’라고 검색하자, AI 오버뷰는 “UC 버클리의 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다”며 “돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다”고 답했다.

또 AI 오버뷰는 ‘치즈가 피자에 달라붙지 않는다’란 물음에 “소스나 치즈가 너무 많거나 소스가 걸쭉하면 치즈가 미끄러질 수 있다”며 “소스에 무독성 접착제 8분의 1컵을 넣으면 된다”고 답하기도 했다. 돌 섭취 답변은 3년 전 나온 한 매체의 풍자 기사를 참고했으며, 피자 답변은 11년 전 미 소셜미디어 ‘레딧’에서 유명했던 농담을 인용한 것으로 보인다.

구글 측은 “흔하지 않은 질문에 따른 답변 예시”라며 “회사 정책에 따라 특정한 질문을 제거하면서 신속한 조치를 취하고 있다”고 설명했다. 현재 구글에서 오바마 전 대통령 등의 사례에는 AI 오버뷰 답변이 나오지 않고 있다.

구글이 ‘AI 판 뒤집기’를 위해 야심차게 선보인 AI 검색 기능이 잘못된 답변을 내놓으면서 일각에선 시기상조였다는 지적도 나온다. 더버지는 “기술이 준비되기 전에 너무 일찍 실제 사용에 들어갔을 수 있다”고 지적했다. 미 CNN 방송은 “AI가 자신 있게 허위 정보를 진술하는 모습은 구글의 명성을 훼손할 위험성을 보여준다”고 전했다.

이기욱 기자 71wook@donga.com