중국, 챗GPT 사용 관련 첫 구금…"AI 기술로 가짜 뉴스 배포"

중국에서 챗GPT 사용과 관련해 첫 구금이 이뤄졌습니다.

홍콩 명보 등에 따르면 중국 간쑤성 경찰은 지난 7일 성명을 통해, 인공지능(AI) 기술을 이용해 가짜 정보를 날조한 혐의로 훙 모  씨를 구금했다고 발표했습니다.

발표에 따르면 간쑤성 경찰은 지난달 25일 현지에서 열차가 공사 작업 중이던 노동자들을 치어 9명이 숨졌다는 가짜 뉴스가 온라인에서 퍼지는 것을 발견했습니다.

경찰은 중국 최대 검색 엔진 바이두가 운영하는 블로그 스타일 플랫폼 바이자하오의 21개 계정에서, 동시에 해당 가짜 뉴스가 퍼지는 것을 발견했습니다.

가짜 뉴스는 1만 5천 건 이상의 조회수를 기록했습니다.

가짜 뉴스를 추적해 들어간 결과 훙 씨가 소유하고 있는 회사에서 처음으로 만들어진 것이 확인됐습니다.

훙 씨는 광둥성 선전시에 등록된 1인 미디어 플랫폼을 운영하고 있습니다.

경찰은 이달 5일 훙 씨의 자택과 컴퓨터를 수색하고 그를 구금했습니다.

훙 씨는 최근 몇 년간 중국에서 주목받은 사건들의 요소를 챗GPT에 입력해 동일한 가짜 뉴스의 여러 다른 버전을 신속히 만들었고 이를 돈 주고 산 여러 바이자하오 계정에 올렸습니다.

조회수를 올려 수익을 챙기려는 목적이었습니다.

중국에서는 미국 오픈AI의 챗GPT에 대한 접근이 차단됐지만 가상사설망(VPN)을 통해서는 접속할 수 있습니다.

중국에서 챗GPT 사용과 관련해 구금이 이뤄진 것은 처음입니다.

훙 씨의 사례는 또 중국이 지난 1월 딥페이크(deepfake)를 규제하는 새로운 규정을 시행한 후 경찰이 그와 관련해 처음으로 조사한 사건입니다.

앞서 중국 국가인터넷정보판공실, 공업정보화부, 공안부가 공동으로 만든 '인터넷 정보 서비스 딥 합성 관리 규정'이 지난 1월 10일 발효됐습니다.

해당 규정에 따르면 딥 합성 서비스 제공자와 이용자는 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 분명히 밝히고 원본을 추적할 수 있도록 해야 합니다.

중국 당국은 챗GPT 열풍이 일자 생성형 AI 챗봇의 위험에 대해 누차 경고하고 있습니다.

지난 2월 베이징 경찰은 챗GPT가 만들어내는 루머에 주의하라고 경고했습니다.

윤영현 기자yoon@sbs.co.kr