"AI 말만 믿고"…농약 뿌린 다음 날 농작물 싹 죽었다

중국의 한 농부가 인공지능(AI)의 농약 사용 조언을 그대로 따랐다가 약 25에이커(약 10만㎡) 규모의 농작물을 잃었습니다.

현지시간 11일 중국 신민만보와 영국 인디펜던트 등 외신을 종합하면, 중국 안후이성 추저우에 사는 67살 A씨는 약 1년 전부터 AI 프로그램을 이용해 농사 일정과 비료 사용법 등을 물어왔습니다.

A씨는 AI의 조언을 따랐을 때 농사에 도움이 되자 이를 신뢰하기 시작했고, 이후 다른 자료로 내용을 확인하지 않은 채 AI가 제시한 방법을 따랐습니다.

A씨는 참깨밭의 잡초와 해충을 제거하는 방법을 AI에 물었고, AI가 제안한 약제 처리 방법을 그대로 실행했습니다.

그러나 사용한 제초제 '플루페나셋'이 참깨에 피해를 줄 수 있는 것으로 확인됐습니다.

농업 전문가들은 플루페나셋을 참깨밭에 사용할 경우 살포 범위와 방법을 제한해야 하는데, 이를 제대로 적용하지 않아 작물이 피해를 입은 것으로 분석했습니다.

A씨는 대만 매체 CTWANT에 "약을 뿌린 다음 날 모종 상태가 좋지 않았다"며 "잡초와 모종이 함께 죽었고, 모종은 훨씬 더 빨리 죽었다"고 말했습니다.

A씨가 사용한 AI 애플리케이션에는 대화창 상단에 "AI가 생성한 내용은 틀릴 수 있으니 확인이 필요하다"는 취지의 경고 문구가 있었던 것으로 전해졌습니다.

AI가 농업과 의료 등 전문 분야에서 잘못된 정보를 제공할 가능성이 있는 만큼, 답변을 그대로 따르지 말고 전문가의 조언이나 공식 자료 등을 통해 확인해야 한다는 지적이 나옵니다.

AI의 잘못된 조언으로 피해를 본 사례는 이전에도 있었습니다.

지난해에는 AI의 조언에 따라 식단에서 소금을 빼기 위해 소금 대신 브로마이드 나트륨을 섭취한 60살 남성이 브롬 중독 증세로 병원 치료를 받은 사례가 보고됐습니다.

당시 의학 학술지 '내과학 연보'에 실린 사례 보고서는 AI가 과학적으로 부정확한 정보를 제공하거나 결과를 비판적으로 검토하지 못해 예방할 수 있는 건강 문제를 일으킬 수 있다고 경고했습니다.

AI 업체들은 이후 의료 관련 질문에 대한 답변 기능을 개선하고 있지만, 챗봇이 의료적 진단이나 치료를 목적으로 하는 것은 아니라는 점을 안내하고 있습니다.

#인공지능 #챗지피티 #생성형AI #AI #조언 #주의

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

문승욱(winnerwook@yna.co.kr)

국제