AI 기본법 시행령 초안 공개… 딥페이크 표시 의무화

과기정통부, 이해관계자 의견수렴 후 과태료 계도기간 운영
고영향 AI 사전 고지·워터마크 표시… 국민 기본권 보호 강화

AI 기본법이 지난해 12월 26일 열린 국회 본회의에서 통과되고 있다. 연합뉴스\

내년 1월 시행을 앞둔 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 시행령 초안이 8일 공개됐다. AI 기본법은 유럽연합(EU)에 이어 세계 두 번째로 제정된 인공지능(AI) 관련 법안이다. 이제 막 태동한 AI 산업을 지나치게 규제한다는 지적이 나오자 정부는 최소한의 규정을 합리적이고 유연하게 운용하겠다며 이해관계자 의견을 수렴한 과태료 부과 계도 기간을 두겠다고 밝혔다.

과학기술정보통신부에 따르면 AI 기본법 시행령은 인간 기본권에 막대한 영향을 주는 ‘고영향’ AI에 대해서는 이용자에 대한 사전 고지와 AI에 의한 결과물임을 워터마크 등으로 표시할 것을 규정했다.

약관, 사용자 환경(UI) 등을 통한 사전 고지와 함께 사람 눈에 보이지 않지만 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정된다. 딥페이크 결과물에 대해선 연령이나 장애 여부 등 이용자의 신체적 조건을 고려해 딥페이크임을 표시해야 한다. 다만, 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우에는 표시 의무가 면제된다.

안정성 확보 대상인 고성능 AI 모델은 아직 국내외에 존재하지 않는 거대 규모인 10의 26제곱 플롭스 이상(누적 연산량 기준)으로 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 수 있는 AI 시스템으로 규정됐다.

에너지, 보건·의료, 원자력, 교통, 교육 등에서 활용되는 고영향 AI는 신뢰성 확보를 위한 구체적 이행 방안을 마련해야 한다. 신뢰성 확보 조치란 위험 관리 교육 방안이나 관리 조직 운영안, 오작동 방지나 보안 대책 등의 이용자 보호 방안을 말한다. 사업자가 고영향 AI 서비스를 제공할 경우 이용자 의견·문의에 대한 피드백 절차도 마련해야 한다.

다만 고영향 AI는 일괄적인 적용보다는 사용 맥락에 따라 규정한다는 설명이다.

가령 AI 송전 제어 시스템이라고 모두 고영향으로 판단하는 것이 아니라 인간 직원의 개입 없이 AI에 의해 완전 자율형으로 운영될 경우 고영향으로 간주하는 식이다. 구체적 기준은 AI 기본법 가이드라인에서 기준을 제시한다.

시행령은 AI 제품이나 서비스를 제공할 경우 기본권에 미치는 영향 평가를 사업자가 자율적으로 할 수 있도록 했다. 고영향 AI는 영향 평가 실시에 노력해야 한다고 의무를 규정했다.

과기정통부는 AI 관련 기업·기관과 시민단체, 미국 등 해외 기업 및 콘텐츠 업계 등을 대상으로 하위법령 내용에 대한 설명회를 진행한 뒤 다음 달 안으로 하위법령 입법예고에 나설 계획이다.

시행 직전인 12월까지 시행령 제정을 완료하고 가이드라인 완성본을 공개한다.

과기정통부는 “AI 안전과 신뢰 기반 조성을 위한 사항은 고시·가이드라인을 통해 더욱 구체화해 기업의 규제 우려와 불확실성 완화에 주력하겠다”고 덧붙였다.

임성원 기자 sone@dt.co.kr