척척박사 AI 알고 보면 거짓말쟁이… 건강정보 믿었다간 큰 일

맹독버섯 건강식으로 추천 등 잘못된 정보 소개·답변 비일비재
전문가 "AI, 거짓·참 구별 능력 없어… 결과물 반드시 검증해야"

붉은뿔사슴버섯./사진=국립수목원 제공

"이 정보를 보고 진짜 믿고 먹을 수 있을지 모르겠어요."

29일 오전 수원시 팔달구에 거주하는 60대 한모 씨는 인터넷에 일일이 검색할 필요없이 정보를 모아 알려 주는 '생성형 인공지능(AI)'에 건강에 좋은 버섯 음식을 추천해 달라고 물었다.

이에 생성형 AI는 비타민D가 풍부한 노란다발버섯을 추천하며 버터와 우유 등을 넣은 버섯크림스프 레시피를 출력했다.

그러나 인터넷을 통해 노란다발버섯의 구입처를 확인하려던 한 씨는 경악을 금치 못했다.

노란다발버섯은 섭취 시 구토, 설사, 신경쇠약과 마비 등을 일으킬 수 있는 야생 독버섯이라는 농촌진흥청의 설명 자료가 나왔기 때문이다.

한 씨는 "AI가 유익한 정보를 제공한다고는 하지만 독버섯을 추천할 줄은 정말 몰랐다"며 "제공한 정보만 믿지 않고 앞으로 더욱 철저히 확인해 봐야겠다"고 말했다.

생성형 AI가 주는 정보를 그대로 인터넷 블로그에 올려 홍보 및 소개하는 글도 있다.

의정부시에 거주하는 70대 이모 씨도 최근 휴대전화의 생성형 AI로 건강식품을 검색하던 중 붉은사슴뿔버섯의 효능을 접했다.

당시 붉은사슴뿔버섯이 피로 회복, 면역력 증진, 강력한 항암 효과 등의 효능이 있다고 소개됐다. 또 이 버섯을 동충하초 계열 버섯과 비슷하게 차로 우려 마시거나 분말 형태로 섭취하라고 설명했다.

다만, 독버섯인 붉은사슴뿔버섯의 부작용으로는 알레르기 등 간단한 내용만 알려 줄 뿐 독성에 대해서는 "독성이 강한 유사 버섯을 먹거나 품질이 떨어진 가공제품을 섭취한 일부 사례일 뿐"이라고만 소개했다.

이를 믿고 이 버섯을 구매하려던 이 씨가 다른 인터넷 사이트에 이 버섯을 검색하자 양지버섯과 혼돈하기 쉬운 독버섯이라는 설명이 쏟아졌다.

당황한 이 씨는 30대 딸에게 붉은사슴뿔버섯이 건강에 좋은지 물었고, 이를 듣고 놀란 딸은 "맹독성으로 유명한 버섯으로 먹으면 큰일"이라고 설명해 준 끝에 안도의 한숨을 내쉬었다.

이처럼 생성형 AI가 잘못된 정보가 담긴 결과물을 출력하고, 사람들이 잘못된 답변을 검토 없이 인터넷에 게시하며 잘못된 정보가 양산되고 있다.

특히 고령자들이 AI를 사용하는 빈도가 높아지며 기술에 대한 맹신으로 AI의 답변을 진실로 착각하는 등 위험이 커지는 상황이다.

변순용 한국인공지능윤리학회장은 "생성형 AI는 거짓과 참을 구별할 능력이 없어 접근 가능한 모든 정보를 진실로 보고 공개된 데이터 중 가장 많이 언급되는 통계치를 보여 줄 뿐, 결과물은 답변이 아니다"라며 "AI의 답변이 '정답'이라는 생각을 고치고 결과물을 거짓으로 보고 검증하는 것이 사용자의 책임이기에 옳고 그름을 판단할 줄 알아야 한다"고 말했다.

이시모 기자 simo@kihoilbo.co.kr