‘가짜 최애’에 속아 2억원 부칠 뻔한 중국 노인…AI 굴기 부작용 속출

클립아트코리아

중국이 딥시크 등장 뒤 인공지능(AI) 기술 굴기(屈起·우뚝 일어선다는 뜻)에 자신감과 기대를 내비치고 있다. 그러나 ‘가짜 캐릭터’를 내세워 중노년층을 대상으로 사기를 치는 범죄가 등장하는 등 부작용도 다양한 방식으로 나타나고 있다.

12일 중국 매체 펑파이는 인공지능으로 가짜 인물을 등장시켜 만든 영상이 빚고 있는 여러 사회 문제가 범죄 수준에 이른 상황을 전했다. 전날 폐막한 양회(전국인민대표대회·전국인민정치협상회의) 기간에 중국 정부는 인공지능 등 첨단기술 분야에 재정 투입과 인재 양성으로 힘을 쏟겠다는 방침을 밝혔지만, 동시에 인공지능 기술이 빚고 있는 사회 문제에 대한 지적도 나왔다.

중국 유명 배우이면서 전국인민정치협상회의(정협) 위원인 진동은 이번 정협 때 “일부 시청자들이 인공지능으로 얼굴을 바꾼 영상에 심하게 속았다. 매우 심각한 일이다. 더 나은 규칙이 마련되길 바란다”고 말해 온라인에서 화제를 모았다. 지난해 중국 장시성의 노령의 한 여성 팬이 얼굴을 진동 배우로 바꿔치기한 인공지능 생성 영상에 속아 가짜 진동의 영화 촬영을 도우려 200만위안(약 2억원)을 빌린 일이 있었다고 펑파이는 보도했다.

진짜 인물보다 가짜 인물에 정서적으로 더 의존하고, 이를 돈벌이에 이용하는 문제도 다뤄졌다. 중노년층 여성을 “누나”라고 부르며 감정적인 위로를 건네는 가짜 남성 캐릭터가 소셜미디어에서 제품 구매를 유도하고 있다는 것이다. 실제로 이 계정은 제품 판매 창을 열어 건강식품과 장신구 등을 팔고 있다. 화면 속 ‘가짜 손자’의 귀여운 재롱이나 ‘가짜 전문가’의 확고한 조언에 중독된 중노년층은 영상 속 인물의 진위에 개의치 않고 정서적 욕구를 충족하고 있다고 펑파이는 짚었다. 의사 리우란(가명)은 가짜 건강 전문가의 영상에 빠진 할아버지가 “온라인의 선생님과 전문가들의 몇 마디는 진실이라고 생각하지만, 가족이 이야기하는 진실을 듣고 싶어 하지 않는다”고 했다.

가짜 캐릭터 생성은 중국에서 이미 산업화하고 있다. 5천~1만위안(약 100~200만원)이면 인공지능 캐릭터를 만들어주는 외주(아웃소싱) 기업이 등장했다고 알려졌다. 펑파이는 경제 전문 매체 란징차이징을 인용해 이들 업체는 인공지능 캐릭터를 만들고, 이를 이용한 소셜미디어 계정 운영에 지침도 제공한다고 전했다.

소셜미디어를 운영하는 플랫폼 기업은 인공지능 합성 콘텐츠 식별과 통제를 강화하고 있지만, 그마저 빠른 기술 발전으로 어려움을 겪고 있다. 정보기술(IT) 기업에서 인공지능을 연구하는 리사는 펑파이에 “요즘 생성된 콘텐츠는 더 현실적으로 변해, 실제 이미지와 생성된 이미지 사이의 차이가 점점 줄고 있다”고 말했다.

베이징/이정연 특파원

xingxing@hani.co.kr