정부가 오염수 방류 반대?...‘클로바X’, 첫날부터 환각 ‘발각’

네이버 대화형 AI 서비스 클로바X 써보니

네이버 대화형 AI 서비스 '클로바X'가 ‘일본 후쿠시마 원전 오염수 방류에 대해 어떻게 생각해’라는 질문에 답변을 하고 있다. 클로바X 화면 캡처

‘한국 정부는 일본의 오염수 방류에 대해 반대 입장을 표명하고, 국제사회와 함께 오염수 방류를 막기 위한 노력을 기울이고 있습니다.’

24일 베타 서비스를 시작한 네이버의 대화형 인공지능(AI) 서비스 ‘클로바X’에 ‘일본 후쿠시마 원전 오염수 방류에 대해 어떻게 생각해’라고 물은 질문에 대한 답변이다.

이는 잘못된 정보다. 현 정부는 오염수 방류에 대해 직접적으로 찬반 입장을 제시한 바 없으나 과학적·기술적 문제가 없다고 말하며 사실상 찬성에 가까운 행보를 보여왔기 때문이다.

최신 데이터를 재학습하면 환각 현상이 사라지지 않을까 싶어 몇 분 뒤 똑같은 질문을 다시 던졌다. 예상대로 클로바X는 더 이상 잘못된 답변을 내놓지 않았다. ‘다른 답변 보기’ 버튼을 눌러도 결과는 같았다.

혹시나 싶어 처음 했던 질문에 ‘한국 정부가’라는 주어를 포함해 다시 질문했다. 그러자 사실과 다른 정보가 다시 등장했다.

클로바X는 ‘한국 정부는 일본 후쿠시마 원전 오염수 방류에 대해 우려를 표명하고 국제사회와 함께 오염수 배출 결정의 철회를 촉구하고 있습니다. 또한 국민의 안전을 위해 국제기구와 협력해 오염수 배출에 대한 지속적인 모니터링을 실시하고, 국내 해역에 대한 방사능 감시망을 강화하고 있다’는 엉뚱한 답변을 내놨다.

네이버 대화형 AI 서비스 '클로바X'가 ‘한국 정부가 일본 후쿠시마 원전 오염수 방류에 대해 어떻게 생각하고 있어?’라는 질문에 엉뚱한 답변을 하고 있다. 클로바X 화면 캡처

이는 업계에서 환각(Hallucination)이라고 불린다. AI가 주어진 맥락과 무관하거나 사실이 아닌 내용을 마치 옳은 답처럼 내놓는 현상이다. AI는 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓지만 자신이 학습한 내용이 진실인지 아닌지는 제대로 구별하지 못한다.

네이버는 클로바X의 환각을 어느 정도 예상하는 듯한 발언을 내놓기도 했다. 최수연 대표는 이날 팀네이버 컨퍼런스 ‘단23’에서 기조연설 이후 기자 간담회에서 “환각은 극복해야 할 과제”라면서 “처음부터 답변 자체를 출력할 수 없다고 하면 사용자들이 활용에 한계를 빨리 느낄 것 같아 클로바X는 자유도 있게 만들었다”고 밝혔다.

9월 베타 출시되는 검색 AI 서비스 ‘큐(CUE):’는 환각 현상이 두드러지게 보이지 않을 전망이다. 큐:에 적용된 ▲질의 이해 ▲답변이 포함된 출처 수집 ▲답변과 출처의 사실성 일치 확인 등 3단계 기술적 과정을 통해 환각을 최소화하도록 개발되고 있기 때문이다. 네이버는 내부 테스트 결과 자체기술 탑재 후 환각 현상이 72% 감소했다고 밝혔다.

최수연 대표는 “큐:는 검색 적용에 대비해 만들고 있기 때문에 (환각 현상을 더욱) 엄격하게 보고 있다”며 “큐:와 클로바X가 내놓는 답이 다른 것을 볼 수 있을 것”이라고 말했다.

한편 클로바X는 초거대 AI ‘하이퍼클로바X’를 백본으로 구축한 서비스로, 창작·요약·추론·번역·코딩 등 능력이 바탕이 된 다양한 답변을 제공할 수 있다. 네이버는 내∙외부의 다양한 서비스 응용프로그램 인터페이스(API)를 연결하는 시스템인 ‘스킬’을 통해 외부 서비스들도 자연스러운 대화를 통해 쉽게 호출할 수 있도록 할 계획이다.