22일 시행된 인공지능(AI) 기본법의 핵심은 '투명성 확보 의무화'다. AI 기본법에 따라 투명성 확보를 위해 AI 생성물은 유통 단계와 딥페이크 여부에 따라 표시 의무가 차등 적용된다.
AI 기본법이란 AI 산업의 육성과 신뢰성 확보를 위해 제정된 법이다. AI 기술의 건전한 발전과 국민의 기본권 보호를 목적으로 한다. 이번 법안의 주요 주제는 '투명성' 및 '안전성' 확보, ‘고영향 AI’의 체계적 관리다.
법안에서 가장 비중 있게 다뤄지는 대목은 '투명성'이다. 생성형 AI 결과물에는 AI가 만든 콘텐츠임을 알리는 워터마크 등의 표시 의무가 부여되며, 이는 유통 환경에 따라 두 단계로 나뉜다.
사용자가 AI 툴 내에서 결과물을 선택하거나 편집하는 등 외부로 반출(다운로드)하기 전 단계에서는 규제가 대폭 완화된다. 딥페이크 생성물 여부와 관계없이 해당 서비스가 AI를 활용한다는 사실만 알리면 된다. 챗봇은 서비스 시작 전 안내나 로고 표출로 대체할 수 있다. 게임이나 메타버스는 로그인 시 안내 문구를 띄우거나 캐릭터에 AI 사용을 표기하는 방식이 허용된다.
AI 생성물을 다운로드하거나 공유하는 등 외부로 유통할 때는 보다 엄격한 기준이 적용된다. 이 경우 일반 생성물과 딥페이크 생성물에 따라 규제 방식이 달라진다. 딥페이크 생성물이란 AI 기술을 활용해 사람의 얼굴이나 음성을 실제처럼 정교하게 만든 디지털 콘텐츠다. 웹툰, 애니메이션 등 일반 생성물은 위험도가 낮아 가시적 표시(로고 등) 외에도 메타데이터 삽입 등 기계가 판독할 수 있는 방법을 허용한다. 단 기계 판독 방식을 택할 경우 시스템 반출 시 팝업창 등을 통해 1회 이상 안내 문구나 음성을 제공해야 한다.
반면 실제와 구분이 어려운 딥페이크 생성물의 경우 반드시 워터마크 등 사람이 명확하게 인식할 수 있는 방식으로 표시해야 한다. 다만 예술적･창의적 표현물에 해당하는 경우에 한해 비가시적 방식 적용 가능성을 열어두었다.
고영향 AI란 의료, 에너지, 채용, 대출 심사 등 국민의 기본권에 중대한 영향을 미치거나 위험한 업무에 활용되면서도 사람의 개입이 없는 경우를 의미한다. 정부는 현재 기준에서 레벨 4 이상의 완전 자율주행 차량 정도가 대표 사례이며, 당장 광범위한 산업 영역이 규제 대상에 포함되지는 않을 것이라고 설명했다.
안전성 확보를 위한 모니터링 의무 대상은 학습에 사용된 누적 연산량이 10
26
이상이며, 최첨단 기술을 적용해 광범위한 영향을 미칠 수 있는 AI다. 다만 현재 국내 AI 사업자 중 이 기준에 해당하는 모델은 없는 것으로 파악된다.
법적 의무 대상에는 AI 개발사업자와 AI 이용사업자가 있다. AI 개발사업자는 대규모언어모델(LLM)과 같은 원천 기술인 파운데이션 모델을 설계하고 구축하는 기업을 의미한다. AI 이용사업자는 개발사업자의 원천 기술을 활용해 일반 유저가 사용할 수 있는 AI 제품이나 서비스를 제공하는 기업을 의미한다. 예를 들어 영상 속 배우의 얼굴을 젊게 만드는 '영화용 AI 디에이징 기술'을 개발하여 서비스로 판매하는 사업자가 이에 해당한다.
반면 AI 서비스를 도구로 사용하여 영상이나 텍스트를 만드는 이용자는 규제 대상에서 제외된다. 가령 영화 제작자가 AI 툴을 활용해 콘텐츠를 생산하더라도 법적 의무는 영화 제작자가 아닌 해당 AI 서비스를 제공한 사업자에게 부여된다.
한편 이번 법안은 해외 사업자라 하더라도 우리 국민에게 영향을 미치는 서비스를 제공할 경우 동일하게 적용될 방침이다.
김경만 과기정통부 인공지능정책실장은 이달 21일 서울시 종로구에 위치한 정부서울청사에서 진행된 기자단 스터디에서 "AI 기본법이 완성됐다고 생각하지 않으며 조금씩 진전해나가는 것에 의미를 둔다"며 "지금 우리는 세계 최초로 아무도 가보지 않은 길을 가려는 것"이라고 말했다.
김수진 기자
Copyright © 블로터