“중국AI, 이럴줄 알았다”…임시로 복붙한 정보까지 싹 가져간다고?

모델 학습 동의 거부 힘들고
임시저장 데이터도 가져가

[로이터 = 연합뉴스]

최근 중국 Z.ai(즈푸AI)가 공개한 인공지능(AI) 모델 ‘GLM-5.2’와 문샷AI의 ‘키미 K3’가 뛰어난 성능으로 화제를 모으는 가운데 이 같은 중국 모델들이 개인정보를 보호하는 기능을 제대로 갖추지 못하고 있다는 지적이 제기된다. 지난해 딥시크 출현 이후 기업과 주요 국가들이 보안을 이유로 관련 서비스 사용을 잇달아 금지했던 사태가 다시 발생할 수 있다는 우려도 나오는 상황이다.

2일 매일경제신문이 즈푸AI와 문샷AI가 운영하는 챗봇 서비스의 개인정보 처리방침을 비교한 결과, 두 서비스 모두 이용자가 자신의 데이터를 모델 학습에 활용하지 못하도록 거부하는 ‘옵트아웃’ 기능이 부실한 것으로 나타났다.

Z.ai와 문샷AI는 개별 모델 출시 외에도 챗GPT와 같은 소비자용 서비스를 통해 최신 모델을 제공하고 있다. Z.ai는 동명의 서비스를 운영하며, 문샷AI의 서비스명은 키미다. 국내 사용자 또한 웹사이트를 통해 각 서비스를 이용할 수 있으며 키미는 모바일 애플리케이션(앱)으로도 제공된다.

두 서비스가 수집하는 데이터 항목 자체는 챗GPT, 클로드 등과 크게 다르지 않았으나 관건은 이용자가 모델 학습 활용을 거부하는 옵트아웃 절차다. 챗GPT와 클로드 등 대부분의 생성형 AI 서비스는 기본적으로 이용자의 데이터를 AI 모델 훈련에 활용하지만, 이용자에게 이를 거부할 수 있는 옵션을 제공한다. 서비스 설정을 통해 ‘데이터 학습 허용’을 켜고 끌 수 있는 구조다.

다만 Z.ai와 키미 서비스는 서비스 내에서 별도 옵션을 제공하지 않고 있다. 서비스 약관을 통해 모델 학습 활용을 원치 않을 경우 개별 메일로 요청하도록 안내하는 데 그치고 있다.

키미는 “모델 개선 및 연구 목적으로 사용되는 것을 거부하려면 메일로 문의하길 바라며, 관련 법률에 따라 처리하겠다”고 명시하고 있다. 이 같은 번거로운 구조는 이용자들이 자신의 데이터 활용을 거부하는 데 장애물로 작용한다.

이용자가 텍스트나 이미지를 복사하고 잘라내기 할 때 해당 텍스트를 임시 저장하는 ‘클립보드’ 데이터를 가져가는 것도 문제로 지적된다. 실제 키미의 경우 클립보드 데이터를 수집할 수 있다고 명시하고 있다. 이용자가 계정 정보나 비밀번호, 계좌번호 같은 정보들을 복사하면 해당 정보가 클립보드에 저장되는데, 이러한 경우 민감 정보가 AI에 수집될 가능성이 있는 것이다. 이를 수집 항목으로 명시하는 것은 생성형 AI 서비스 중에서 이례적이다.

또한 두 기업 모두 중국 기업이라는 점에서 중국 정부가 요청하면 민간 데이터가 당국에 전송될 수 있다는 점도 유의해야 한다.

최대선 숭실대 소프트웨어학부 교수는 “사용자 모르게 사용자가 다른 목적으로 복사한 내용을 수집해서 전송하거나 한다면 문제가 될 수 있다”고 지적했다.