정부, AI 창작물에 '워터마크' 도입 추진…AI 신뢰·안전성 높인다

정부가 인공지능(AI)이 생성한 결과물에 대한 '워터마크 도입 제도화'를 추진한다. 딥페이크, 가짜 뉴스 등 AI가 생성한 콘텐츠로 인해 발생될 수 있는 부작용을 최소화하자는 취지다.

이종호 과학기술정보통신부 장관은 25일 서울시 강서구 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화'에서 이같은 계획을 밝혔다.

이 장관 "AI는 디지털 심화 시대의 핵심기술로서 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다"면서 "민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해 나가겠다"고 말했다.

이에 따라 정부는 AI 윤리·신뢰성 확보 추진계획을 추진한다. 계획에는 ▲민간 자율 인공지능 윤리·신뢰성 확보 지원 ▲세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 ▲사회 전반 책임 있는 인공지능 의식 확산 등 AI 윤리·신뢰성 모범국가를 위한 내용이 담겼다.

정부는 세부 추진과제로 AI가 생성한 결과물에 대한 '워터마크 도입 제도화'를 제시했다. 딥페이크, 가짜 뉴스 등 AI 생성물에 따른 부작용을 미연에 방지하고, 원본 콘텐츠의 저작권을 보호하기 위한 취지다. 내년 1분기 국민의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미치는 '고위험 AI'에 대한 해설서를 마련, 관련 제도를 정립해 나간다는 계획이다.

다만 콘텐츠에 어떤 방식으로 워터마크를 표시할지는 결정되지 않았다. 눈으로 보이는 표식보다는 기계가 AI 생성 콘텐츠를 확인할 수 있도록 하는 방식이 될 것이란 관측이 나온다.

정부는 또 생성형 인공지능 기반 서비스 등 분야별 가이드라인을 마련·확대하고 민간 자율 신뢰성 검·인증을 다음달부터 추진할 계획이다. 특히 AI 사업 중 고위험 AI 개발·실증 사업을 수행하는 기업을 일부 선정해 오는12월에 시범 인증을 추진할 예정이다.

이밖에 AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 잠재 위험요인에 대응하기 위해 신뢰성을 확보하기 위한 기술개발을 내년부터 신규로 추진할 예정이다. 예산은 2027년까지 3년간 220억원이 투입된다.

한편, 이날 최고위에서는 네이버와 카카오, SK텔레콤, KT, LG AI 연구원 등 국내 AI 산업계 대표하는 기업인들이 참석해 AI 신뢰성 검·인증의 필요성에 대한 주제들로 토론을 진행했다.

김유철 LG AI 연구원 부문장이 '인공지능 윤리원칙 실행을 위한 기업의 노력'을 주제로 발표를 진행했다. 이어 참석자들은 ▲인공지능 산업발전과 신뢰성 확보의 균형을 위한 민간자율 검·인증 추진방향 ▲ 초거대·생성형 인공지능의 신뢰성 향상을 위한 자발적 노력 ▲인공지능 윤리의식 확산 및 글로벌 규범 선도를 위한 제언 등 3가지 주제를 놓고 토론을 벌였다.

참석자들은 인공지능이 생성한 결과물에 대한 워터마크 도입이 필요하다는 점에 공감하면서, 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다.

강나훔 기자 nahum@asiae.co.kr