AI가 만든 콘텐츠에 워터마크… 기술 윤리·신뢰성 회복한다

이종호(앞줄 왼쪽 네번째부터) 과기정통부 장관, 고학수 개인정보보호위원장, 김유원 네이버클라우드 대표, 배경훈 LG AI연구원장 등이 25일 서울 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화'에서 기념촬영하고 있다. 과기정통부 제공

정부가 AI(인공지능) 신뢰성 확보를 위한 제도 정립에 본격적으로 나선다. 생성형AI의 제작물을 구분할 수 있도록 워터마크를 찍는 방안도 단계적으로 도입한다.

과학기술정보통신부는 25일 개인정보보호위원회 및 민간 전문가들과 함께 '제4차 AI 최고위 전략대화'를 개최했다. AI 위험성 우려에 대응해 안전한 AI 확산방안을 논의하기 위해 마련된 자리다.

이번 행사는 지난 9월 '대한민국 초거대AI 도약' 행사에서 AI 신뢰성을 위해 기업들이 자발적으로 안전조치를 마련하겠다고 약속했던 선언의 후속으로 마련됐다. 이 자리에서 과기정통부는 그간 수렴한 의견들 토대로 △민간 자율 AI 윤리·신뢰성 확보 지원 △세계를 선도하는 AI 윤리·신뢰성 기술·제도적 기반 마련 △사회 전반에 책임 있는 AI 의식 확산 등을 골자로 하는 'AI 윤리·신뢰성 확보 추진계획'을 발표했다.

먼저, '국가 AI 윤리기준'의 구체적 실천수단으로 생성형AI 기반 서비스 등에 대한 분야별 가이드라인을 마련·확대하고, 민간 자율 신뢰성 검·인증을 11월부터 추진한다. 고위험영역 AI 개발·실증 사업을 하는 기업을 일부 선정해 시범인증도 12월 실시한다. 고위험AI에 대한 해설서도 내년 1분기 마련하는 등 AI 신뢰성 관련 제도 정립 과제를 추진할 방침이다.

특히, AI가 생성한 결과물에 대한 워터마크 도입 제도화를 검토한다. 과기정통부에 따르면 초거대AI 기업들은 해당 결과물에 대한 '가시적 워터마크' 도입이 필요하다는 점에 공감했고, 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다.

AI 자체가 내포하는 편향성·불투명성 등 기술적 한계와 오작동 등에 따른 잠재 위험요인에 대응하기 위한 기술개발에도 나선다. 기존 AI의 한계를 극복하고 초거대AI 신뢰성을 확보하기 위해 내년부터 2027년까지 총 220억원 규모의 신규 사업을 추진할 예정이다.

김유철 LG AI연구원 부문장은 'AI 윤리원칙 실행을 위한 기업의 노력', 김동민 JLK 대표는 '고위험 AI 분야에 대한 신뢰성 검·인증 필요성'에 대해 발표했다. 이어 AI 신뢰성 검·인증이 나아가야할 방향, AI 신뢰성 확보 기술개발 및 책임 있는 거버넌스 구축, AI 윤리·신뢰성 교육과 표준 제정 등에 대한 논의가 진행됐다.

이종호 과기정통부 장관은 "민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과 적합한 규제 체계를 정립하는 데 힘쓰고, 관계부처와 함께 AI 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다"고 말했다.팽동현기자 dhp@dt.co.kr