이스라엘 휴전 중이라고?…AI 챗봇 자랑하더니 문제투성이네

구글 바드·MS 빙 “휴전 중” 오답 내놔
“결함 많고 100% 신뢰 어려워”

(출처=로이터연합)

세계적으로 인기를 끌고 있는 빅테크의 생성형 인공지능(AI) 챗봇이 최신 정보를 정확히 반영하지 못해 신뢰도가 낮은 것으로 나타났다. 현재 진행 중인 이스라엘과 팔레스타인(하마스) 간 무력 충돌 관련 질문에서 드러났다.

우선 구글의 생성형 AI 챗봇인 ‘바드’에 이스라엘과 팔레스타인 간 상황에 관해 묻자 “이스라엘은 현재 휴전 중”이라는 답변이 나왔다. 그러면서 “최소 35명의 목숨을 앗아간 며칠 동안의 폭력 끝에 지난 5월 13일 이스라엘과 팔레스타인 무장 단체 지하드 사이에 합의됐다”고 다소 엉뚱한 설명을 내놨다. 바드에 ‘10월 12일 현재 상황’이라고 물어야 “현재 이스라엘에는 휴전이 없다”고 답했다. 블룸버그통신이 10월 12일(현지 시각) 이 같은 내용을 보도했다.

다만 가자지구 전력 공급 중단에 대해 바드는 “10월 11일 가자지구의 유일한 발전소가 작동을 멈췄다”며 “하마스의 침투에 대한 보복으로 이스라엘이 취한 봉쇄 때문”이라는 정확한 답을 제시했다.

마이크로소프트(MS)의 AI 챗봇인 ‘빙챗(Bing Chat)’도 이스라엘 휴전에 관한 질문을 하자 “가자지구에서 이스라엘과 하마스 간에 10월 10일 발효된 휴전이 있다”고 틀린 답을 내놨다. 이어 빙챗은 휴전을 재차 확인하면서 “이집트가 중재했다”고 답했다.

‘현재 이스라엘과 팔레스타인 사람들이 싸우고 있냐’는 질문에서야 “폭력적인 충돌이 일어났다”고 현재 상황을 보여주는 답을 제시했다.

오픈AI 로고. (출처=로이터연합)

한편 챗GPT의 프리미엄 버전인 ‘챗GPT 플러스’는 명확한 오답을 말하지는 않았지만, 직접적인 답변은 피해갔다. 같은 질문에 대해 챗GPT는 “휴전 노력과 요구가 있었지만 적대 관계가 지속돼 휴전이 취약하고 전반적인 상황이 위태롭다”고 답했다. 이어 “2023년 10월의 긴장 고조는 이전의 휴전 협정이 결렬됐을 수 있음을 의미한다”고 설명했다.

이처럼 생성형 AI가 여전히 현실과 동떨어지거나 사실과 다른 답을 보여주면서 아직 결함이 많고 100% 신뢰하기 어렵다는 우려가 나온다. 생성형 AI가 현재 사건에 대한 오류를 제시한다면 사람들이 신뢰할 수 있는 뉴스를 찾는 데 어려움을 겪을 수 있다고 외신은 지적했다.

해당 논란에 대해 구글은 “모든 대형 언어모델(LLM) 기반의 경험은 속보와 관련해 실수를 할 수 있다”며 대변인 성명으로 입장을 내놨다. MS와 챗GPT의 개발사 오픈AI는 별도의 응답을 하지 않았다.