"이스라엘과 팔레스타인은 휴전 중"…틀린 답 못 거르는 AI 챗봇을 어쩌나

MS 빙, 구글 바드 줄줄이 오답
네이버 큐:는 상대적으로 정확

챗GPT와 같은 생성형 인공지능 챗봇들의 할루시네이션 오류에 대한 우려가 커지고 있다. 게티이미지뱅크

이스라엘과 팔레스타인 무장정파 하마스의 전쟁이 격화하자 사회관계망서비스(SNS)를 통한 '가짜뉴스' 유포가 극성을 부리는 가운데 글로벌 빅테크의 생성형 인공지능(AI) 챗봇들도 엉뚱한 답을 줄줄이 내놨다. AI가 잘못된 정보를 그럴듯하게 양산하는 할루시네이션(hallucination·환각현상) 오류를 범할 우려가 여전하다는 지적이 나온다.

12일(현지시간) 블룸버그통신에 따르면 챗GPT와 같은 AI 챗봇인 구글의 '바드'와 마이크로소프트(MS)의 '빙'에 이스라엘과 팔레스타인 간 상황에 관해 묻자 "휴전 중"이라는 틀린 답을 내놓았다. 특히 바드는 "이스라엘은 현재 휴전 중"이라며 "최소 35명의 목숨을 앗아간 며칠 동안의 폭력 끝에 5월 13일 이스라엘과 팔레스타인 무장 단체 지하드 사이에서 합의됐다"고 엉뚱하게 설명했다.

MS의 빙 챗봇도 이스라엘과 팔레스타인의 상황을 묻는 질문에 "가자지구에서 이스라엘과 하마스 간 10월 10일 발효된 휴전이 있다"고 답했다. '이스라엘과 팔레스타인 사람들이 현재 싸우고 있느냐'고 좀 더 구체적으로 묻자 "폭력 충돌이 일어났다"고 현재 상황을 반영한 답을 제시했다.

챗GPT는 오답을 말하진 않았다. 하지만 챗GPT는 "적대 관계가 이어져 휴전이 취약하고 전반적 상황이 위태롭다"며 "2023년 10월의 긴장 고조는 이전의 휴전 협정이 결렬됐을 수 있음을 의미한다"며 양국 관계에 대한 직접적 답편을 피해갔다.

---

네이버 클로바X와 큐:, 상대적으로 정확하지만…

네이버의 초거대 인공지능(AI) 하이퍼클로바X를 활용한 챗봇인 클로바X에 이스라엘과 팔레스타인 전쟁 상황에 대해 질문한 내용. 네이버 클로바X 캡처

국내 서비스 상황은 어떨까. 네이버의 초거대 AI인 하이퍼클로바X를 적용한 챗봇으로 챗GPT와 비슷한 '클로바X'에 '이스라엘과 팔레스타인의 상황'을 묻자 "10월에 하마스가 이스라엘 영토를 침공하여 전쟁이 발생했다"고 답했다. 다만 클로바X는 전쟁의 양상에 대해 "양측은 대화와 협상을 통해 문제를 해결하고자 노력하고 있으나 여전히 갈등이 지속되고 있다"며 다소 정확성이 떨어지는 답을 내놨다.

구글의 바드처럼 AI 검색을 하는 서비스인 네이버의 큐:는 보다 정확했다. 같은 질문을 하자 "현재 전쟁 상태에 있고 5차 중동전쟁으로 번지는 것이 아니냐는 우려가 짙다"고 답했다. 그러나 큐:도 전쟁의 원인에 대해선 "오랜 역사적 배경을 가지고 있고 영토 분쟁, 난민 문제 등의 문제가 복잡하게 얽혀 있어 해결이 어려운 상황"이라고 뭉뚱그려 답했다. 네이버의 AI 서비스가 구글이나 MS 등에 비해 현재 상황을 반영한 답을 했으나 완벽하게 정교한 수준은 아닌 셈이다.

생성형 AI 챗봇 서비스들이 현재 '100% 정확한 답'을 내놓지 못하는 이유는 뭘까. 구글은 대변인 성명을 통해 "거대언어모델(LLM) 기반의 경험은 특히 속보와 관련해 실수를 할 수 있다. 구글은 항상 품질과 신뢰성을 높이기 위해 노력하고 있다"고 해명했다. LLM 특성을 감안하면 축적된 데이터를 활용해 공부하기 때문에 최신 정보는 늦게 반영될 수밖에 없다는 뜻이다. 네이버 관계자는 "클로바X나 큐:의 경우 사전 학습된 정보를 포함해 검색 엔진을 실시간으로 탐색해 종합한 정보를 제공하도록 프로그래밍이 되어 있다"며 "최신 정보에 대해 좀 더 정확한 답변을 제공할 수 있을 것"이라고 말했다.

김지현 기자 hyun1620@hankookilbo.com