내년 1월부터 AI 생성물에 '눈에 보이는' 워터마크 의무화

과기정통부, AI 기본법 시행령 입법예고
"비가시적 워터마크 넣는 경우에도 AI 생성물 고지해야"

딥페이크

내년 1월부턴 생성형 AI(인공지능)로 만든 모든 콘텐츠에 눈에 보이는 워터마크를 넣어야 한다. 특히 실제 인물·음성을 합성한 딥페이크 영상엔 처음부터 끝까지 AI 생성물 표시를 해야 한다. 앞서 과학기술정보통신부는 '비가시적 워터마크'도 허용할 방침이었으나, 이용자 보호를 강화해야 한다는 국회 지적에 정책을 바꿨다.

12일 과기정통부는 이같은 내용의 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 시행령 제정안을 마련해 다음달 22일까지 40일간 입법 예고한다고 밝혔다.

지난 9월 공개한 시행령 초안 대비 생성형 AI의 투명성 조치가 강화됐다.

내년 1월부턴 AI사업자는 생성형 AI를 이용한 제품·서비스라는 사실을 표시해야 한다. 이때 사람 눈에 보이진 않지만, 기계로 판독 가능한 비가시적 워터마크도 허용키로 했다. 그러나 지난 국정감사에서 "누가 봐도 AI 생성물임을 알 수 있어야 한다"는 비판이 잇따르자 비가시적인 워터마크를 넣는 경우에도 AI 생성물임을 1회 이상 고지하도록 했다. 딥페이크 영상은 처음부터 끝까지 AI 생성물임을 표시해야 한다. 업계에선 워터마크는 쉽게 제거·변조 가능한 데다, 콘텐츠 품질 저하 등을 우려해 반대하고 있어 향후 갈등이 예상된다.

다만 과기정통부는 예술적·창의적 표현물의 경우 전시나 향유 등을 저해하지 아니하는 방식으로 고지·표시할 수 있게 했다. 이를테면 영화 엔딩 크레딧에 생성형 AI 기술 활용 여부를 명시할 수 있다.

━

"고성능 AI 기준, 美와 동일…과태료 계도기간 1년 이상"

━

과기정통부는 안전성 확보 의무 대상인 고성능AI 기준을 '누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상인 시스템'으로 규정했다. 미국과 동일한 기준으로 EU(유럽연합·10의 25승)보다는 완화한 수준으로, 아직 국내엔 규제 대상이 없다.

고영향AI는 사용영역, 기본권에 대한 위험의 영향, 중대성, 빈도 등을 고려해 고영향AI 여부를 판단하도록 시행령에 세부 기준을 마련했다. 과기정통부에 고영향AI 확인을 요청할 경우 기본 30일이 소요되며, 최장 60일내 결과를 받을 수 있도록 관련 절차도 구체화했다. 또 AI사업자가 사람에 미칠 영향을 자율적으로 평가하고 부작용을 완화할 수 있도록 인공지능 영향평가에 포함 사항도 시행령에 구체화했다.

과기정통부는 AI 기본법의 구체적인 기준과 의무 이행 방법, 모범 사례 등을 반영한 고시와 가이드라인을 마련할 계획이다. 법 시행 초기 혼란을 막고 기업에 준비기간을 제공하기 위해 과태료 계도기간을 최소 1년 이상 운영할 계획이다. 이 기간엔 AI기본법 지원 플랫폼인 통합안내지원센터(가칭)를 운영하며 기업 등의 문의 사항에 상세하게 안내할 계획이다. 센터는 제도 개선을 위한 의견수렴 창구 역할도 한다.

과기정통부는 AI기본법 시행 후 기업 지원 예산 확보를 통해 AI검·인증, 영향평가 수행 비용을 지원하고, 가이드라인도 개선해 나갈 예정이다. 더불어 투명성 확보 의무, 고영향AI 사업자 책무 등에 대한 전문가 컨설팅도 병행할 계획이다.

배경훈 과기정통부 장관은 "AI기본법 시행령 제정안은 AI G3 강국 지위를 확고히 하기 위한 제도적 초석이 될 것"이라며 "입법예고 기간 현장의 다양한 의견을 수렴해 AI산업 발전과 안전·신뢰 기반 조성이라는 입법 취지를 시행령에 잘 반영할 수 있도록 철저히 준비하겠다"고 말했다.

윤지혜 기자 yoonjie@mt.co.kr