"피자에 접착제 넣으세요"… 구글 검색 'AI 오버뷰', 오류 발생

구글이 지난 14일(현지 시각) 구글 연례 개발자 회의(I/O)에서 공개한 검색 서비스 ‘AI 오버뷰’에 환각현상이 발생하고 있다는 오류가 나왔다.

23일(현지시간) 더 버지 등 외신에 따르면 AI 오버뷰가 사용자 물음에 틀린 답변을 제시하거나 아예 관련 없는 내용을 생성하는 현상이 발생하고 있다.

AI 오버뷰는 구글의 생성형 AI ‘제미나이’를 적용한 검색 서비스로, 검색어를 입력하면 링크를 단순 나열하던 기존 검색 서비스와 달리 질문을 넣으면 관련 정보를 요약한 답변을 제공해준다.

사용자 맞춤형 검색 결과도 내놓는 점이 AI 오버뷰의 특징이다. ‘제미나이’가 가진 다단계 추론 기술 덕에 여러 조건이 섞인 질문을 입력하더라도 텍스트·이미지·동영상 등 최적화된 검색 결과를 내놓는다.

더버지는 사용자가 ‘치즈가 피자에서 잘 떨어지지 않게 요리하는 방법은?’이라고 물으면, AI 오버뷰는 ‘접착제를 조금 넣으세요’라며 ‘접착풀을 살짝 피자 소스에 섞으면 무독성 접착제 효과를 보실 수 있습니다’라고 답한다고 전했다.

구글은 이 같은 환각현상에 대해 사전에 고지한 바 있다. AI 오버뷰가 당장은 완벽한 기능을 보이지 못할 수 있기 때문에 검색 결과나 답변 하단에 ‘생성형 AI는 실험 중이다’는 라벨을 부착한 것이다.

메건 판스워스 구글 글로벌대응책임은 “이런 경우가 일반적으로 매우 흔하지 않은 검색어에서 비롯된 것”이라며 “다수 이용자 경험을 대표하지 않는다”는 입장을 밝혔다.

조선비즈