생성형 AI 워터마크 의무화…고영향 AI 관리체계 가동

[앵커]

AI 기본법 후속 개정안이 시행됐습니다.

국가 차원에서 AI 관리 체계가 가동되고, 관련 산업 육성을 도모하기 위한 뼈대가 갖춰진 건데요.

하지만 일각에선 우려의 목소리가 여전합니다.

곽준영 기자입니다.

[기자]

AI 기본법 후속 법령의 핵심은 인공지능 '안전망 구축'과 '산업 진흥' 두 축으로 나뉩니다.

먼저, 인간의 생명과 신체, 기본권에 중대한 영향을 미칠 수 있는, 이른바 '고영향 AI'에 대한 깐깐한 관리 체계가 가동됩니다.

진짜처럼 보이는 허위 정보 확산을 막기 위해 생성형 AI 결과물에 워터마크를 반드시 달아야 하는 '표시 의무'도 함께 시행됩니다.

<류제명 / 과학기술정보통신부 2차관(지난 16일)> "인공지능 기본법상 생성형 AI의 표시 의무는 그 위반 시의 과태료 처분이 있습니다. 3천만 원 이하입니다."

개정안에는 공공부문이 AI 산업 혁신을 이끌 수 있도록 하는 내용도 담겼습니다.

이를 위해 'AI 제품·서비스 확인제도'가 새로 도입돼, 인증 기업은 공공 조달 시장 참여 요건이 완화되고 총계약 적격심사에서도 가점을 받습니다.

한마디로 공공 부문을 AI 기술을 먼저 도입하는 일종의 '테스트베드'로 만들겠다는 겁니다.

장애인과 고령자, 구직자 등 AI 서비스 접근이 어려운 층 대상으로 국가나 지자체가 이용 비용을 지원하는 근거 등도 마련됐습니다.

다만 아직 보완해야 할 점들도 있습니다.

가령 AI를 극히 일부 활용한 영상에도 워터마크가 필요한지, 어디에 어떻게 넣어야 하는지 등이 명확하지 않습니다.

제공하려는 서비스가 실제 고영향 AI에 해당하는지를 기업들이 사전에 판단하기 어렵다는 점도 애로사항으로 꼽힙니다.

일단 네이버와 카카오 등 주요 기업들은 저마다 AI 위험관리 조직과 체계를 구축했지만, 자본과 인력이 부족한 업체들이 비상입니다.

<윤석빈 / 서강대 AI·SW 대학원 특임교수> "스타트업 중소기업들은 AI가 워낙 얼리 스테이지(초기단계)라서 예상치 못하게 여러 가지 이슈들이 나올 수 있거든요. 샌드박스처럼 규제 유예 기간 아니면 범퍼존(완충지대)을 만들어…"

정부는 최소 1년의 계도기간을 두기로 했지만, 산업계에선 업체 규모와 사업 형태별 세분화·차등화된 유예 제도가 필요하단 목소리가 나옵니다.

연합뉴스TV 곽준영입니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

곽준영(kwak_ka@yna.co.kr)