‘예외 확대 vs 규제 강화’ 부딪히는 AI 워터마크...이달 중 투명성 가이드라인 공개

비가시 워터마크 제약 등 업계 부담 목소리에
정부 “부작용 우려도 크다...개선 방안 논의”
법은 최소 1년 이상 규제 유예 기간 운영하고
사실조사는 인명사고·국가적 피해 초래한 경우만
AI 사업자·고영향 AI 정의와 구분 명확화 요구도

[사진=과학기술정보통신부]

내년 1월 22일 시행되는 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)과 관련해 정부가 투명성 의무 관련한 가이드라인을 이달 중 공개한다. 비가시적인 워터마크 일반화 요구에 대해서는 “부작용 발생 가능성이 있다”면서 최소한의 안전 장치 마련을 위한 제도 개선을 병행한다는 입장이다.

기업들이 우려를 표한 사실 조사는 AI 기본법 규제 유예 기간에는 인명사고·인권 훼손과 같은 사회적 문제를 일으키거나 국가적 피해를 초래한 경우에만 예외적으로 실시하기로 했다.

과학기술정보통신부는 24일 ‘AI 기본법 시행 대비 설명회’를 열고 입법예고 기간 수렴한 주요 의견과 향후 추진 계획을 발표했다.

기업들이 AI 기본법에서 우려하는 영역 중 하나는 AI 투명성 확보 의무다. AI 사업자는 AI 결과물에 생성형 AI를 통해 생성됐음을 표시하도록 했는데, 시행령은 비가시적 워터마크도 허용하고 있으나 이 경우나 1회 이상 안내 문구나 음성을 통해 안내하도록 규정하고 있다.

이에 산업계는 비가시적 표시 일반화 등 예외 확대를 요구하고 있지만 오히려 시민사회에서는 투명성 의무 이행자 범위를 유럽연합(EU) 법상 ‘배포자’까지 확대 적용해야 한다고 주장하고 있다.

이에 대해 최우석 과기정통부 AI안전신뢰과장은 “현재까지 논의를 반영한 가이드라인을 이달 중 공개할 것”이라며 “새로운 기술에 맞춰 가이드라인을 계속 보완할 예정”이라고 설명했다. 과기정통부는 AI 제도 개선 연구반을 통해서도 종합적인 제도 개선 방안을 논의한다는 계획이다.

AI 기본법 주요 내용 그래픽 [사진 = 매일경제DB]

AI 기본법 최종 가이드라인은 내년 1월 공개될 예정이다.

정부는 AI 기본법에 있어 최소 1년 이상 규제 유예기간을 운영하되, 해외 동향이나 기술 발전 속도를 고려해 유예 연장 가능성을 열어 둘 예정이다. 이 기간에는 AI 기본법에 따른 사실 조사도 유예되지만 인명 사고나 인권 훼손 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에는 실시한다.

AI 기본법 대상이 되는 AI 사업자(개발사업자·이용사업자) 정의를 명확화해야 한다는 요구에 대해 과기정통부는 판단이 어려운 사례를 포함해 사업자 정의 구분을 가이드라인에 반영할 예정이다.

EU 법상 ‘배포자(deployer)’의 정의를 국내법에 반영해야 한다는 의견도 나왔는데, 이는 법률 개정 사항으로 추가 검토가 필요하다는 설명이다. EU AI 법에서 배포자는 일부 사용자까지 포괄하는 더 확장된 개념이다.

AI 모델 학습에 사용된 누적 연산량이 10의 26승 플롭스(부동소수점 연산)일 경우 지게 되는 안전성 확보 의무에 대해서는 해외 규범 동향 등을 고려해 누적연산량 기준 외에 다른 판단 방법을 적용하는 방안도 적극 검토한다.

보다 강한 의무가 부과되는 ‘고영향 AI’의 정의와 범위가 모호하고, 고영향 AI 해당 여부를 사전 검토하는 기간이 길다는 의견도 나왔다. 이에 대해 과기정통부는 확인 절차 답변 기간은 필요 최소한의 기간인 30일로 설정했으며 1회에 한해 기간을 연장할 수 있고 이 경우 사업자에게 서면으로 안내하도록 시행령에 반영했다고 설명했다.

한편 과기정통부는 기업들의 AI 기본법 준수 및 애로사항 해소를 위해 AI안전신뢰지원데스크(가칭)를 운영하며 스타트업 및 중소기업을 대상으로 맞춤형 컨설팅을 제공하고 고영향 AI 여부 검토를 지원할 계획이다.

산업계와 시민단체, 학계가 참여하는 제도개선 연구반도 구성해 운영한다.

이진수 과기정통부 인공지능정책기획관은 “정부 원칙은 필요 최소한의 규제”라며 “AI 기본법의 상당 부분은 산업 지원과 진흥과 관련되어 있다. 생태계 조성에도 필요한 법”이라고 설명했다.