‘딥페이크 표시 의무화’ 위반시 최대 3000만원…AI 기본법 시행령 초안 공개

과기부, 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 공개
고영향 AI 사전고지·생성물 표시 의무화
과태료 부과 전 계도기간 운영

▲ 정부, AI 기본법 시행령 초안 공개 [AI 생성 이미지]

정부가 내년 1월 시행을 앞둔 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)」 시행령 초안을 8일 공개했다. 유럽연합(EU)에 이어 세계 두 번째로 제정된 AI 관련 법률이다.

AI 산업 초기 단계에서 과도한 규제 논란이 일자, 정부는 “최소한의 규정을 합리적이고 유연하게 적용하겠다”며 기업들의 부담을 줄이기 위해 과태료 부과 전 계도 기간을 운영하겠다고 밝혔다.

과학기술정보통신부에 따르면 시행령은 AI 활용의 투명성 확보를 핵심으로 한다. 인간 기본권에 중대한 영향을 미칠 수 있는 ‘고영향 AI’에 대해서는 △이용자 사전 고지 △AI 생성물 표시 의무가 규정됐다. 표시는 눈에 보이는 안내 문구나 UI(사용자 환경)뿐 아니라, 기계가 자동으로 인식할 수 있는 비가시적 워터마크도 인정된다.

특히 딥페이크 콘텐츠는 연령·장애 여부 등 이용자 특성을 고려해 ‘딥페이크 표시’를 반드시 포함해야 한다. 다만, 내부 업무용이거나 이용자가 생성형·고영향 AI임을 명백히 알 수 있는 경우에는 표시 의무가 면제된다.

또한 시행령은 안정성 확보 대상인 고성능 AI 모델의 범위를 “누적 연산량 10의 26제곱 플롭스 이상”으로 규정했다. 이는 현재 국내외에서 존재하지 않는 초대형 모델 수준으로, 생명·신체 안전과 기본권에 광범위하게 영향을 줄 수 있는 시스템을 지칭한다.

에너지, 보건의료, 원자력, 교통, 교육 등 주요 분야에서 활용되는 고영향 AI에 대해서는 위험 관리, 오작동 방지, 보안 대책 등 ‘신뢰성 확보 조치’를 마련해야 한다. 또한 이용자 의견·문의에 대한 피드백 절차도 반드시 갖춰야 한다. 다만 적용 여부는 일괄적이지 않고, 운용 맥락에 따라 달라진다. 예컨대 송전 제어 시스템이라도 사람이 개입하면 고영향으로 보지 않지만, 완전 자율형으로 운영될 경우 고영향 AI로 간주된다.

시행령은 사업자가 AI 제품·서비스가 기본권에 미치는 영향 평가를 자율적으로 시행할 수 있도록 했으며, 고영향 AI의 경우 영향 평가 실시 의무를 명시했다.

만약 사전 고지를 하지 않거나 해외사업자가 국내 대리인을 지정하지 않는 등 시행령을 위반하면 최대 3000만원의 과태료가 부과된다. 다만 과태료 부과 전 계도 기간이 주어지며, 기간의 구체적 범위는 업계 의견을 수렴해 결정될 예정이다.

한편 AI 기본법에는 규제뿐 아니라 AI 산업 육성을 위한 지원 근거도 마련됐다. 정부는 R&D, 데이터 구축, AI 도입·활용 지원을 제도적으로 뒷받침한다는 계획이다.

과기정통부는 기업·기관, 시민단체, 해외 기업 등을 대상으로 설명회를 열고, 내달 안으로 하위법령 입법예고를 진행한다. 이어 시행 직전인 12월까지 시행령 제정을 완료하고, 세부 가이드라인 최종본을 공개할 예정이다.