정부, AI 생성물에 ‘워터마크’ 도입 추진

이종호 과학기술정보통신부 장관이 지난 3월 경기도 성남시 카카오에서 열린 ‘제3차 인공지능 최고위 전략대화’에서 인사말을 하고 있다. 연합뉴스 자료사진.

정부가 인공지능(AI)이 생성한 결과물에 대해 AI가 만들었다는 표식(워터마크)을 도입한다. 딥페이크 기술을 악용한 인권 침해와 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 줄이고, AI 생성에 사용된 원본 콘텐츠의 저작권을 보호하기 위해서다.

과학기술정보통신부는 25일 민간 기업·전문가들과 제4차 인공지능 최고위 전략대화를 열고 이런 내용의 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표했다.

AI 기술 활용을 막을 수 없는 만큼 AI 생성물임을 밝히고 널리 활용하도록 하기 위한 것으로, 미국의 주요 AI 기업들이 지난 7월 미국 정부와 워터마크 사용을 공식화한 것과 같은 맥락이다.

과기정통부는 기업들이 AI가 생성한 결과물에 대해 워터마크 도입이 필요하다는 점에 공감하고, 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다고 밝혔다.

다만 생성물에 어떤 방식으로 워터마크를 표시할지는 결정되지 않았다. 맨눈으로 보이는 표식보다는 기계가 AI 생성 콘텐츠를 확인할 수 있도록 하는 방식이 될 것이라는 관측이 나온다.

AI 기술이 앞선 해외에서는 기계가 AI 생성물임을 자동으로 알아차릴 수 있는 워터마크를 넣는 방안이 연구되고 있다. AI 학습용 데이터 묶음(데이터 세트)에 워터마크 처리를 하면 거대언어모델(LLM) 등을 거쳤을 때 AI가 만든 콘텐츠임을 기계적으로 식별하는 기술이다.

아울러 정부는 기업들과 AI 기반 서비스 분야별 가이드라인을 마련하고, 이를 확대하기 위한 자율적인 검·인증 제도를 다음달부터 도입키로 했다. 특히, 고위험 영역의 AI 개발·실증 사업을 수행하는 기업을 일부 선정해 오는 12월부터 시범 인증을 추진할 예정이다. 고위험 AI 해설서도 내년 1분기에 마련한다.

AI가 내포하고 있는 편향성과 불투명성 등 기술적 한계와 오작동 등에 따른 위험 요인에 대응하고 한계를 극복하기 위한 기술 개발도 내년부터 추진한다. 이를 위해 과기정통부는 내년부터 4년간 ‘차세대 생성 AI 기술개발’ 사업에 220억원을 투입키로 했다.

이종호 과기정통부 장관은 “AI는 디지털 심화 시대의 핵심기술로 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”며 “자율적인 신뢰성 검·인증 지원을 비롯한 AI 생태계 기반 조성과 적합한 규제 체계를 정립해가는 데 힘쓰겠다”고 말했다.

과학기술정보통신부

김은성 기자 kes@kyunghyang.com