딥페이크 급증하자···인권위 "AI 규제 유예 신중해야"

사업자 책임·의무 규정한 AI기본법
시행 3년 유예하는 개정안 발의돼
기본권 보호해야 VS 기업혁신 위축

연합뉴스

[서울경제]

국가인권위원회가 인공지능(AI) 규제 유예에 대해 “신중한 검토가 필요하다”는 입장을 밝혔다. AI 개발과 활용 과정에서 발생할 수 있는 위험으로부터 국민의 기본권을 보호해야 한다는 취지다.

인권위는 1일 국회의장에게 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’ 제31조부터 제35조의 시행을 3년간 유예하는 개정안과 관련해 이 같은 의견을 전했다.

AI기본법은 지난 1월 제정돼 2026년 1월 22일부터 시행된다. 다만 제31~제35조는 AI 결과물에 대한 출처 표기와 ‘고영향 AI’의 안전성 확보 등 사업자의 책임과 의무를 규정하고 있어 기업 혁신을 위축시킬 수 있다는 지적이 제기돼 왔다. 이에 해당 조항의 시행을 3년간 유예하는 개정안이 국회에 발의된 상태다.

인권위는 “AI가 잘못된 결론을 도출하거나 편향된 결정을 내리는 경우 기본권에 직접적인 피해를 줄 수 있다”며 “개정안에서 시행을 유예하고자 하는 조항은 AI 기술이 헌법적 질서 내에서 안전하고 신뢰받을 수 있도록 하기 위한 핵심적인 입법 조치”라고 강조했다.

이어 “2024년 10월 기준 딥페이크 성범죄로 경찰에 신고된 건수는 전년 대비 518% 증가한 964건에 달한다”며 “AI 기술의 영향력이 커질수록 피해도 구조적이고 심각해질 수 있다는 점에서 개정안 유예는 국가의 의무를 이행하는 것으로 보기 어렵다”고 지적했다.

아울러 인권위는 “산업계의 우려는 시행령과 고시 등 하위법령의 정교화와 보완 입법, 정부의 AI 생태계 지원 강화 등을 통해 해소하는 것이 바람직하다”며 해당 조항을 예정대로 2026년 1월 22일부터 시행할 것을 권고했다.

정유나 기자 me@sedaily.com