中최고법원, 'AI분쟁' 재판기준 마련…저작권침해·딥페이크 대응

이견 컸던 '허가 없는 AI 학습' 판단 유보…'AI 개발 중 행위'엔 관용적 태도

'AI 분쟁 사건' 법적 기준 발표하는 중국 최고인민법원 [중국 최고인민법원 홈페이지 캡처. 재판매 및 DB 금지]

(베이징=연합뉴스) 정성조 특파원 = 중국 사법부가 저작권 침해나 얼굴·음성 모방(딥페이크), 환각(할루시네이션) 등 인공지능(AI) 관련 분쟁에 대응하기 위한 법적 기준을 마련했다.

중국 최고인민법원은 7일 'AI 분쟁 사건을 법에 따라 심리하는 것에 관한 의견'(이하 '의견')을 발표했다.

최고인민법원은 해당 '의견'에 대해 "국가 최고심판기구가 발표한 AI 사법 재판 규칙 문건이자 글로벌 AI의 발전에 공헌하는 '중국 사법의 지혜'"라며 당정 기관과 AI 업계 대표, 전문가 등이 작성을 지원했다고 설명했다.

총 24개 조항으로 이뤄진 '의견'은 AI를 이용해 인격권과 개인정보·소비자 권익을 침해하는 다양한 상황에 대한 침해 책임 인정과 부담을 규정하고, 생성형 AI 서비스 제공자의 침해 책임과 AI 제품의 책임 등을 담았다.

최고인민법원은 AI 생성 콘텐츠가 저작권을 침해한 경우 해당 AI 기술과 비즈니스 모델 특성, 당사자가 콘텐츠 생성 과정에서 수행한 역할, 훈련 데이터를 입력한 당사자, 취한 필수 조치, 수익 상황 등을 따져 침해 책임을 분배한다는 원칙을 제시했다.

저작권 침해에 관한 일차 증거는 권리자가 제시해야 한다. 하지만 AI 기술에 복잡성·불투명성이 있어 외부에서 증거를 수집하기 어려운 만큼, AI 개발자는 저작권을 침해하지 않았다는 항변을 할 때 모델의 훈련 데이터 출처와 훈련 과정, 운영 모델 등에 대한 사실 증거를 제출해야 한다고 최고인민법원은 설명했다.

무단 AI 모델 훈련 등 그간 논란이 된 일부 분야에 대해서는 확정된 규정을 만들지 않았다.

최고인민법원은 "'의견' 논의 과정에서 AI 생성 콘텐츠의 저작물성 및 허가 없이 타인의 작품을 사용해 AI 대형 모델을 훈련하는 행위의 성격 규정에 대해 큰 이견이 있었고, '의견'은 이 두 가지 문제에 대해 당분간 규정을 두지 않기로 했다"며 "우리는 AI 등 신흥 영역의 지식재산권 보호 문제를 계속해서 주목하고, 재판 경험을 부단히 종합해 합의 형성을 위해 노력할 것"이라고 말했다.

[강민지 제작] 일러스트

한편, 최고인민법원은 동의 없이 AI를 이용해 자연인의 이름과 얼굴을 처리하고, 그 자연인을 식별할 수 있는 가상 디지털 이미지를 생성·사용·공개하는 것은 성명권·초상권 등 인격권을 침해하는 행위라고 못 박았고, 동의 없이 자연인의 목소리를 훈련 데이터로 쓴 뒤 그 스타일을 모방한 음성을 만든 것 역시 음성에 관한 권익을 침해한 것으로 본다고 지적했다.

대형언어모델에서 'AI 환각' 현상으로 인격권이 침해됐을 경우 AI 서비스 제공자는 침해 콘텐츠 생성 중단 등 필요 조치를 취해야 하는 의무가 있고, 적시에 대응이 이뤄지지 않으면 민사 책임을 지게 했다. 사용자가 악의적인 방식으로 AI에 타인의 권리를 침해하는 콘텐츠 생성을 유도한 경우에는 가해 사용자에 민사적 책임을 부과하기로 했다.

최고인민법원은 기업 책임 문제에 관해서는 "AI 권익 침해 책임의 귀책 원칙을 정확히 파악해 AI 기술과 산업이 아직 발전 초기에 있을 때 과중한 책임을 지워 혁신 적극성에 영향을 미치는 것을 방지해야 한다"는 '관용적 원칙'을 제시했다.

AI를 이용해 민사상 권익을 침해해 발생한 법률적 책임에 대해 법률에 '무과실 책임'(고의 여부와 무관하게 책임이 발생함)이나 '과실 추정 책임'(가해자에게 과실이 있다고 판단하는 것)이 명확히 규정돼있지 않는 한 민법 원리에 따라 '과실 책임'(고의나 과실 없이 손해를 가했다면 손해배상 책임을 지지 않음) 원칙을 적용해야 한다는 점을 분명히 했다는 평가가 나온다.

'AI 제품'이라는 용어를 엄격히 규정해 스마트 로봇과 자율주행 자동차 등 실물을 매개로 하는 제품으로 범위를 한정했고, 실물 매개체가 없는 AI 서비스는 대상에서 제외했다.

최고인민법원은 AI 형사 사건에 대해서는 "AI를 고의로 이용한 국가 안보 위해, 시민 권익 침해, 사회 질서 교란 등 범죄 행위는 법에 따라 엄벌하되, AI 연구·개발과 응용 중의 혁신적 행위에 대해선 법에 따라 신중하게 처리해 죄형법정주의와 죄책형상호적응원칙(죄의 경중에 맞게 처벌하는 것)을 준수해야 한다"고 강조했다.

'의견'은 자율주행·운전보조 기능이 탑재된 자동차 교통사고 배상 책임 문제, 온라인에서 타인의 개인 정보를 무단 유포하는 신상 털기 문제, 온라인 기록을 이용해 고객마다 다른 가격을 매기는 빅데이터 가격차별 문제 등의 판결 규칙도 정했다.

아울러 소송 문서를 AI로 만들어 제출하는 최근 현상을 감안해 소송 참여자가 문건과 판례 검색 보고서 등에 대한 사실 확인·설명 의무를 진다는 점도 포함했다.

xing@yna.co.kr

▶제보는 카톡 okjebo