세계 최초 ‘AI 기본법’ 시행…‘산업 진흥·신뢰 조성’ 두 마리 토끼 잡는다

AI 서비스 사용 소비자는 규제 대상 아냐
AI 스타트업 등 업계는 규정 모호성에 우려
위반 시 최대 3000만원 과태료…계도부터

지난달 30일 서울 여의도 국회에서 열린 본회의에서 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 일부개정법률안이 가결되고 있다. 뉴시스

 
세계 최초의 포괄적 인공지능(AI) 법령인 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 22일부터 시행된다.

특정 분야 규제가 아닌 AI 전반을 아우른다는 점에서 세계적인 주목을 받게 됐다. AI 기술이 개화하는 시점에서 생긴 이 법은 급격히 발전하는 AI 기술의 산업 경쟁력을 확보하면서도, 그에 따른 사회적 부작용 예방으로 신뢰할 수 있는 AI 생태계 조성이라는 국가적 의지를 담고 있다.

과학기술정보통신부의 ‘인공지능 투명성 확보 가이드라인’ 등에 따르면 이 법의 핵심은 크게 ‘산업 진흥’과 ‘신뢰 확보’로 나뉜다.

진흥 측면에서는 AI 연구개발(R&D)과 학습용 데이터 구축, 전문 인력 확보, AI 데이터센터 구축 지원 등에 이르기까지 기업의 혁신을 위한 법률상 지원 사항과 세부 기준·절차 등을 시행령으로 구체화했다. 이와 함께 신뢰 측면에서는 AI 윤리와 검증, 투명·안전성 확보 그리고 국민의 생명이나 권리에 중대한 영향을 끼칠 수 있는 이른바 ‘고영향 AI’ 규정을 법률로 명확히 했다.

법안 적용 대상은 AI 모델을 개발하거나 이를 활용해 서비스를 직접 제공하는 기업과 사업자다. 여기에는 네이버, 오픈AI, 구글 등 국내외 거대 기술 기업이 포함된다. 이들은 생성형 AI 결과물에 워터마크를 부착하는 등 투명성 확보 의무를 이행해야 한다. 반면에 오픈AI의 ‘챗GPT’ 등을 업무에 활용하거나 유튜브를 시청하는 일반 소비자나 단순 사용자는 규제 대상에서 제외된다. 규제 초점이 서비스를 제공하는 주체에게 맞춰져 있으므로 AI 서비스를 단순히 업무나 창작의 도구로 쓰는 소비자는 규제 대상이 아니다.

AI 스타트업과 관련 업계에서는 일부 법안 규정의 모호성에 우려를 표한다. ‘고영향 AI’ 기준도 논란의 중심에 있다. 정부는 의료·에너지·채용·금융(대출 심사)·수사 등 국민의 기본권과 생명에 직결된 10개 영역을 고영향 AI로 지정했고, 구체적으로는 ‘레벨 4 이상의 완전 자율주행 기술’ 등을 포함했다. 일선 현장에서는 ‘중영향 AI’나 ‘저영향 AI’는 없는지 더 명확한 가이드라인이 필요하다는 입장이다. AI 생성 결과물에 들어가는 ‘워터마크’도 쟁점이다. 부착 시 소비자들에게 인위적이고 부정적인 이미지를 줄 것을 걱정해서다. 전체 작업 중에서 일부만 AI를 활용했을 때도 ‘AI에 의한 결과물’로 봐야 하는지 명확하지 않다고 업계는 지적한다.

정부는 기본적으로 생성형 AI 결과물의 워터마크 표시 의무를 부여했다. 딥페이크처럼 실제와 혼동하기 쉬운 결과물에는 가시적인 표시가 필수적이나 애니메이션이나 웹툰에 관해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크를 쓸 수 있도록 했다. AI 사업자가 알림창이나 사용자 인터페이스에서 생성형 AI 결과물을 안내하도록 규정했다.

정부는 새로운 법 시행에 따른 업계의 혼란을 최소화하는 연착륙 전략을 세웠다.

관련 법 위반 시 최대 3000만원의 과태료를 부과할 수 있지만, 최소 1년 이상의 유예 기간을 두고 계도에 주력한다. 처벌보다 제도를 현장에 안착시키기 위한 기간인 만큼 현장 기업의 혼란을 막고자 사실조사를 유예하고, 시행한다고 해도 최소화한다는 원칙이다. 인명 사고나 인권 훼손과 같은 중대 사회 문제 등 예외 경우에서만 실시할 방침이다. AI 기본법 시행은 기술 강국으로 도약하기 위한 발판이자, 기술의 칼날로부터 사회적 안전망을 구축하려는 첫걸음이 될 것으로 보인다.

김동환 기자 kimcharr@segye.com