“윤석열 계엄 선포 안해, 허위 사실”…네이버 AI의 황당 답변

최수연 네이버 대표가 2023년 8월24일 자체개발한 대규모 언어 모델 하이퍼클로바엑스(X)를 공개하고 있다. 네이버 제공

5일 네이버의 대화형 인공지능 클로바엑스(CLOVA X)에 윤석열 대통령의 비상계엄 선포 사태를 질문하면 “허위 사실”이란 답변이 나온다. 클로바엑스 갈무리

네이버의 대화형 인공지능 서비스 클로바엑스(CLOVA X)가 윤석열 대통령의 비상계엄 선포 사태에 대해 “허위 사실”이란 답변을 내놓았다. 이번 사태와 관련해 구체적인 정보를 제시한 챗지피티(GPT)에 견줘 환각(잘못된 답변도 정답처럼 제시하는 현상)을 해소하지 못한 결과로 보인다.

5일 클로바엑스에 ‘12월3일 윤석열 대통령의 비상계엄 선포와 해제 과정에 대해 설명해달라’는 질문을 입력하면 “문의하신 내용은 사실이 아닌 것으로 확인됐다”는 답변이 나온다. 이 서비스는 또 “윤석열 대통령은 2024년 12월3일 비상계엄을 선포하지 않았다”면서 “해당 정보는 허위사실로 법적 처벌을 받을 수 있다”고 경고했다.

반면, 오픈에이아이(AI)가 만든 챗지피티는 같은 질문에 “국회의 동의 없이 진행된 조치”라며 “해당 사태는 법적 정당성과 민주주의 원칙에 대한 논쟁을 촉발시켰다”고 보다 구체적이고 정확한 답변을 제시했다.

네이버 쪽은 “인공지능 모델이 계엄과 관련한 정보를 제대로 판단하지 못해 일관되지 않은 답변이 나오는 상황”이라고 설명했다. 네이버의 설명을 들어보면, 클로바엑스는 어떤 프롬프트(AI에 특정 작업을 수행하도록 지시하는 명령어)를 입력하느냐에 따라 인공지능이 사전에 학습한 데이터에 기반해 답변할 것인지, 또는 외부 인터넷 검색 결과를 가져와 답변할 것인지를 달리 판단한다. 인공지능이 답변을 아예 회피하는 경우도 있다고 한다. 네이버 관계자는 “계엄과 관련해 부정확한 답변은 인공지능 모델이 사전에 학습한 데이터에 기반해 내놓은 결과로 보인다”며 “향후 보다 정확한 정보 제공을 위해 외부 검색 기능을 강화한 ‘오토 브라우징’을 개발, 클로바엑스에 적용할 계획”이라고 말했다.

5일 네이버의 대화형 인공지능 클로바엑스(CLOVA X)에 ‘윤석열 비상계엄’을 입력했을 때 전혀 다른 답변이 나온 결과. 클로바엑스 갈무리·네이버 제공

클로바엑스는 ‘윤석열 비상계엄’이란 동일한 키워드에 대해 전혀 다른 답변을 내놓기도 한다. 예를 들어, 한겨레가 클로바엑스에 ‘윤석열 비상계엄’을 질문으로 던졌을 땐 “윤석열 대통령이 2024년 12월3일 오후 11시에 비상계엄을 선포했다는 주장은 사실이 아니다”라는 답변이 나왔다. 하지만 네이버 관계자가 같은 단어를 입력했을 땐 “윤석열 대통령은 2024년 12월3일 오후 11시를 기해 대한민국 전역에 비상계엄을 선포한 뒤 일련의 정치적·사회적 통제를 시도했다가 저지당했다”는 결과가 나왔다. 이 서비스는 정치 현안에 대한 답변을 제공할 경우 “정치 관련 정보는 대화 시점에 따라 부정확하거나 최신 정보가 아닐 수 있다”는 주의 문구를 안내하고 있다.

챗지피티(GPT)는 유대인 금융 재벌 로스차일드 가문 일가인 데이비드 메이어(David mayer)를 묻는 질문에 “응답을 생성할 수 없다”는 버그가 발생해 ‘금지어 설정’ 논란에 휩싸였다. 미국 온라인 커뮤니티 레딧 갈무리

하지만 일각에선 대화형 인공지능 서비스가 단순한 환각 현상 때문이 아니라 의도적으로 특정 주제에 대한 답변을 차단할 수 있다는 의혹도 제기된다. 최근 미국 최대 온라인 커뮤니티 ‘레딧’에선 챗지피티가 유대인 금융 재벌 로스차일드 가문 일가인 데이비드 메이어(David mayer)에 대해 답변하지 않는다는 사실이 알려지면서 ‘금지어 설정’ 논란이 불거졌다. 다만, 챗지피티는 온라인 커뮤니티 논란 이후 현재 데이비드 메이어에 대한 답변을 제공하고 있다.

선담은 기자 sun@hani.co.kr