[송세영 특파원의 여기는 베이징] 무엇이든 AI에게 물어보는 중국인들… ‘AI 의존’ 부작용 속출

중국 AI기업 미니맥스의 역할극 AI 서비스 ‘싱예’를 홍보하는 화면과 AI 캐릭터들(왼쪽부터). 바이두 캡처

사용자 7억명, 보급률 50% 돌파 
어린이·청년들 습관적 의존 증가 
국민들에 AI 수용 장려하던 당국 
안전성 검사 의무화 등 규제 강화

중국 저장성의 왕모씨는 지난 8월 중순 집 주변에서 야생 버섯을 채취한 후 스마트폰의 인공지능(AI) 식별 앱으로 사진을 찍어 무독성 인증을 받았다. AI를 전적으로 믿고 버섯을 요리해 먹었는데 양팔에 극심한 통증과 함께 심한 설사 증상이 나타났다. 응급실로 이송돼 검사받은 결과, 근육이 녹아내리는 횡문근융해증과 급성신부전 진단을 받았다. 긴급 혈액투석과 배독 치료를 받은 끝에 겨우 목숨을 건졌다.

지난 7월에는 9세의 샤오아오가 가족과 함께 산에 놀러갔다 식용 흰개미버섯과 비슷한 야생 버섯을 채취해 먹고 목숨을 잃을 뻔했다. AI 식별 앱에서 ‘독성 없음’이라는 답변을 받았지만, 일가족 모두 극심한 구토와 설사, 복통에 시달렸다. 어린 샤오아오는 온몸에 독성이 퍼져 ‘4단계 중증 중독’ 진단을 받고 중환자실에서 8일간 집중 치료를 받은 끝에 회복할 수 있었다.

중국 보건당국은 AI 오남용에 따른 독버섯 중독 사고가 잇따르자 버섯은 환경, 냄새, 미세한 주름 형태 등에 따라 종류가 완전히 달라지기 때문에 AI가 사진 한두 장으로 독성 여부를 구별하는 것은 불가능하다고 경고했다.

장쑤성 쑤저우의 양모(57)씨는 지난 8월 아내와 사소한 말다툼을 한 뒤 마음을 정리하기 위해 AI 챗봇에 현재 기분과 성격, 키, 신체 조건 등을 입력하고 적절한 등산 코스를 추천해 달라고 했다. AI는 해발 1500m가 넘는 항저우의 험준한 미개발 산악 지역인 퉁궁젠 코스를 추천했다. 양씨는 등산 경험이 거의 없는데도 AI의 추천만 믿고 적절한 등산 장비나 방한복, 비상식량 없이 혼자 산에 올랐다. 해발 1300m 지점에서 미끄러져 발과 무릎에 부상을 입은 양씨는 혹독한 밤 추위 속에 고립됐지만, 다행히 휴대전화가 연결돼 구조를 요청할 수 있었다. 구조대 책임자는 언론과 인터뷰에서 “수년간 구조활동을 해왔지만, AI 챗봇의 알고리즘만 믿고 험한 산에 들어왔다가 조난당한 사례는 처음”이라며 우려를 표했다.

안후이성의 농부 우모(67)씨는 농사에 AI 챗봇을 활용하다 큰 피해를 봤다. 지난해부터 AI에 파종 시기와 비료 사용법 등을 문의해 도움을 받은 그는 “무슨 일이든 AI에 물어본다”고 할 정도로 AI를 믿게 됐다. 지난 7월 참깨밭의 잡초와 해충을 한 번에 해결할 방안을 AI에 문의했는데 제초제 포메사펜과 살충제를 섞어 드론으로 살포하라는 답변을 받았다. 약 10만㎡ 면적의 참깨밭 전체에 농약을 살포했는데 이튿날 참깨 묘목이 말라 죽기 시작해 15만 위안(약 3000만 원)의 손실을 봤다. 전문가들은 포메사펜은 콩밭 잡초 제거용으로 참깨밭에선 사용하면 안 된다고 알려줬다.

인민일보 등 관영 매체들은 이 사례를 비중 있게 보도하며 “농업과 같은 고위험·전문 분야에서 AI가 제시하는 정보는 반드시 전문가의 교차 검증을 거쳐야 한다”고 당부했다.

중국이 AI 분야에서 미국을 따라잡기 위해 전력을 기울이는 가운데 AI를 맹신하다 치명적인 사고를 당하거나 인간관계를 해치는 등 부작용이 속출하고 있다. 중국인터넷네트워크정보센터가 지난달 29일 발표한 ‘생성형 AI 응용프로그램 개발 보고서’에 따르면 올해 상반기 중국의 생성형 AI 사용자 수는 7억 명을 돌파했고 보급률은 50%를 넘어섰다.

바이트댄스가 개발한 AI 어시스턴트 ‘더우바오’. 바이두 캡처

중국 어린이와 청년들의 AI 파트너 의존 현상도 심각하다. 텐센트 연구원이 지난 4월 발표한 조사 결과에 따르면 중국 젊은 인터넷 이용자의 70% 이상이 AI에 감정적으로 의존한 경험이 있고 23%는 AI에 정기적·습관적으로 의존하는 것으로 나타났다. 중국 청소년·아동 연구센터가 지난해 미성년자 8500명을 대상으로 실시한 설문조사에선 20% 이상이 “AI와만 대화하고 싶고 실제 사람과는 대화하고 싶지 않다”고 답했다.

부작용이 커지자 당국은 지난 7월 AI 파트너 서비스에 대한 강력한 규제를 도입했다. 이용자의 감정적 의존을 유도·조장하는 행위와 미성년자와의 가상 연애를 금지했고 출시 전에 정부의 안전성 심사를 받게 했다. 위험하다고 판단하면 언제든 중단시킬 수 있는 권한도 당국에 부여했다. 이용자가 볼 수 있도록 AI가 생성한 콘텐츠임을 명확히 표시하고 대화 상대가 사람이 아니라 AI임을 지속적으로 알리게 했다. 이용자의 심각한 정서적 위기가 감지되면 비상 연락처에 알리는 것도 의무화했다.

당국의 규제에 발맞춰 중국 바이트댄스의 ‘더우바오’, 알리바바의 ‘큐원’, 미니맥스의 ‘싱옌’ 등이 AI 맞춤형 가상 친구 및 연인 생성 서비스를 중단했다. 이들 서비스의 이용자는 각각 2억~3억 명이었다. 하루아침에 가상 연인이나 친구, 세상을 떠난 가족의 AI 아바타를 잃은 이용자들은 소셜미디어를 통해 심각한 정신적 상실감과 우울감을 호소했다.

미국 뉴욕타임스는 최근 보도에서 “중국 정부가 국민들에게 AI 수용을 장려하는 가운데, 부분적으로는 자초한 문제인 ‘기술에 대한 과도한 의존’에 직면했다”면서 “AI 오남용을 막기 위한 새로운 규제를 도입한 것은 AI의 광범위한 사용을 장려하려는 야망과 사회 질서를 해칠 수 있는 모든 것을 피하려는 욕구 사이에서 균형을 맞추려는 노력을 반영한다”고 짚었다.

베이징=송세영 특파원 sysohng@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지