인포데믹스 시대의 AI 환각현상…챗봇 맹신하지 말아야

인공지능(AI) 생성형 챗봇인 챗지피티(ChatGPT). <한겨레> 자료사진

[왜냐면] 김규석 | 한국폴리텍대학 분당융합기술교육원 교수

인포데믹스는 정보(Information)와 전염병(Epidemics)의 합성어다. 근거 없는 부정확한 정보가 인터넷 등을 통해 확산하면서 사회 전반에 위기가 오는 현상을 의미한다. 인터넷이 대중화한 1990년대부터 예상했던 일이다. 인터넷에서는 누구나 글, 사진, 영상 등을 올릴 수 있고, 의견을 자유롭게 피력할 수 있지만, 임의로 지우지 않는 이상 반영구적으로 남게 된다. 각종 근거 없는 루머 등 부정확한 정보도 쉽게 공유할 수 있다.

경찰청의 연도별 사이버 범죄 통계 현황 자료를 보면 사이버 명예훼손과 모욕을 포함한 사기, 저작권 침해, 금융 범죄 등의 사이버 범죄 전체 발생 건수는 2018년 14만9604건에서 2022년 23만355건으로 5년 동안 약 54%가 증가했다. 이렇게 인터넷에서 떠도는 정보에 의한 범죄의 발생은 꾸준히 늘어나고 있다.

최근에는 사람들이 검색 엔진을 통해 찾던 내용을 생성형 인공지능(AI) 챗봇인 챗지피티(GPT)를 통해 한다. 그 사용자는 그 어떤 서비스보다 빠르게 증가하고 있다. 마이크로소프트는 빙챗(Bing Chat), 구글은 바드(Bard) 등의 서비스를 출시하면서 인공지능 생성형 챗봇의 경쟁은 더욱 심화하고 있다. 이러한 챗봇은 사용자의 발화문에서 문맥을 더 깊이 이해해 기존 검색엔진보다 더 자세하고 깊이 있는 내용을 답변하는 것뿐만 아니라 사용자 발화문의 오류까지 수정해 준다.

사람들은 챗봇을 만능으로 생각해 일부는 답변을 맹신하는 인공지능 환각현상을 경험한다. 심지어 학생들은 과제를 수행할 때도 챗봇의 답변을 활용함으로써 사고력과 창의력을 저해하고 있다. 이러한 인공지능 기반의 서비스를 절대 맹신해서는 안 된다고 강조하고 싶다. 인터넷에 산재한 데이터를 기반으로 하는 인공지능 서비스는 정보의 옳고 그름에 대한 판단 능력이 부족하다. 그래서 인공지능 서비스를 참고용으로는 활용하되 너무 신뢰하지는 않아야 한다.