'AI 굴기'의 이면…中, 넘쳐나는 불법 생성 콘텐츠에 골머리

출처 미표기 1인 미디어 10만개 제재…AI 온라인광고 생태계 첫 전방위 단속

(서울=연합뉴스) 이봉석 기자 = 중국 당국이 넘쳐나는 불법 생성형 인공지능(AI) 콘텐츠 때문에 골머리를 앓고 있다.

세계를 뒤흔든 '딥시크 쇼크'로 대변되는 'AI 굴기'가 드리운 어두운 그림자다.

5일 관영 영자지 차이나데일리 등 중화권 매체에 따르면 중국 인터넷 규제 당국인 인터넷정보판공실(CAC)은 출처를 밝히지 않고 각종 뉴스와 정보를 제공한 1인 미디어 '쯔메이티'(自媒體) 9만8천개에 대해 제재를 가했다고 지난 3일 밝혔다.

쯔메이티는 위챗(중국판 카카오톡)과 웨이보(중국판 엑스) 같은 소셜미디어에서 운영되는 개인 또는 소규모 독립 운영자의 비공식 콘텐츠 채널을 의미한다.

상당수는 조회수를 늘리기 위해 AI가 생성한 것이라는 사실을 숨기고 영상을 올린 것으로 드러났다.

중국 시장규제·감독 기관인 국가시장감독관리총국(SAMR)은 지난달 말 AI 관련 온라인 광고 생태계에 대해 처음으로 칼을 빼 들었다.

AI 오남용을 포함한 불법 행위를 타깃으로 인터넷 광고 분야에 대해 6개월에 걸친 대대적 단속에 착수한 것이다.

총국은 관련 기술이 급속하게 성장하는 가운데 AI 오남용과 자동화 봇(bot) 등을 이용한 트래픽 어뷰징(조회수 조작)이 새로운 위험 요소로 대두됐다고 판단했다.

총국은 "시스템적이고 대대적인 단속 캠페인이 시급하게 필요한 상황"이라고 진단했다.

캠페인 기간 규제 강화와 플랫폼 책임 강화, 신규 광고 형태 감독, 모니터링 기술 업그레이드, 콘텐츠 기준 강화 등 5개 사항을 중점 추진한다.

앞서 인터넷정보판공실은 지난 춘제(春節·중국의 설) 연휴 기간 온라인 환경 정화 캠페인을 통해 AI 생성 허위 콘텐츠 등 70만8천건 이상을 삭제했다.

컨설팅업체 퀘스트모바일은 중국의 작년 온라인 광고 시장이 7천930억 위안(약 170조원)에 달한 것으로 추산했다. 작년 상반기 기준 바이트댄스, 텐센트, 알리바바 등 빅테크 3사가 과반을 차지했다.

중국 당국은 개별 기업에 대해서도 지도에 나섰다.

인터넷정보판공실은 지난달 28일 AI 생성 영상에 출처가 표기되지 않았다며 바이트댄스 운영자를 불러 시정을 명령하고 제재를 부과했다.

문제가 된 바이트댄스 앱 또는 프로그램은 AI 기반 영상 편집용 캡컷(CapCut)과 파일 공유 플랫폼 캣박스(Catbox), 이미지 생성 AI 드리미나(Dreamina)다.

당국은 이들 서비스가 사이버보안법과 AI 생성 서비스 관련 규정, AI 생성 및 합성 콘텐츠 표시 관련 규정을 위반했다고 밝혔다.

anfour@yna.co.kr

▶제보는 카톡 okjebo

국제