중국, 챗GPT 사용 첫 구금…“AI 기술로 가짜뉴스 배포”

로이터 연합뉴스

중국에서 인공지능(AI) 챗봇 ‘챗GPT’ 사용과 관련해 첫 구금이 이뤄졌다.

9일 홍콩 명보 등에 따르면 중국 간쑤성 경찰은 지난 7일 성명을 통해 AI 기술을 이용해 가짜 정보를 날조한 혐의로 훙모 씨를 구금했다고 발표했다.

발표에 따르면 간쑤성 경찰은 지난달 25일 현지에서 열차가 공사 작업 중이던 노동자들을 치어 9명이 숨졌다는 가짜 뉴스가 온라인에서 퍼지는 것을 발견했다. 경찰은 중국 최대 검색 엔진 바이두가 운영하는 블로그 스타일 플랫폼 바이자하오의 21개 계정에서 동시에 해당 가짜 뉴스가 퍼지는 것을 발견했다. 그 가짜 뉴스는 1만5000건 이상의 조회수를 기록했다.

가짜 뉴스를 추적해 들어간 결과 훙 씨가 소유하고 있는 회사에서 처음으로 만들어진 것이 확인됐다. 훙 씨는 광둥성 선전시에 등록된 1인 미디어 플랫폼을 운영하고 있다.

경찰은 이달 5일 훙 씨의 자택과 컴퓨터를 수색하고 그를 구금했다.

훙 씨는 최근 몇년간 중국에서 주목받은 사건들의 요소를 챗GPT에 입력해 동일한 가짜 뉴스의 여러 다른 버전을 신속히 만들었고 이를 돈 주고 산 여러 바이자하오 계정에 올렸다. 조회 수를 올려 수익을 챙기려는 목적이었다.

중국에서는 미국 오픈AI의 챗GPT에 대한 접근이 차단됐지만 가상사설망(VPN)을 통해서는 접속할 수 있다.

중국에서 챗GPT 사용과 관련해 구금이 이뤄진 것은 처음이다.

훙 씨의 사례는 또한 중국이 지난 1월 딥페이크(deepfake)를 규제하는 새로운 규정을 시행한 후 경찰이 그와 관련해 처음으로 조사한 사건이다.

앞서 중국 국가인터넷정보판공실, 공업정보화부, 공안부가 공동으로 만든 ‘인터넷 정보 서비스 딥 합성 관리 규정’이 지난 1월 10일 발효됐다.

해당 규정에 따르면 딥 합성 서비스 제공자와 이용자는 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 분명히 밝히고 원본을 추적할 수 있도록 해야 한다.

당국은 딥 합성 기술을 ‘AI의 딥러닝이나 증강 현실을 활용해 텍스트, 이미지, 영상, 오디오를 만들어내거나 조작하는 기술’이라고 규정했다.

중국 당국은 챗GPT 열풍이 일자 생성형 AI 챗봇의 위험에 대해 누차 경고하고 있다. 지난 2월 베이징 경찰은 챗GPT가 만들어내는 루머에 주의하라고 경고했다.

김현아 기자