"AI가 제작"…워터마크 부착 추진

과기부, 윤리·신뢰 확보 방안
5개월 내 '고위험' 규정 마련

정부가 인공지능(AI)의 신뢰성을 높이기 위해 민간 자율의 신뢰성 검·인증을 추진하고 AI 생성 결과물에 표시하기 위해 워터마크 도입을 검토한다.

과학기술정보통신부는 25일 서울 강서구 LG사이언스파크에서 '제4차 인공지능 최고위 전략대화'를 열고 이런 내용이 담긴 '인공지능 윤리·신뢰성 확보 추진계획'을 발표했다. 인공지능 최고위 전략대화는 국가 AI 경쟁력을 강화하기 위해 민관이 함께 정책·투자 방향과 전략적 협력 방안을 논의하는 AI 대표급 협의체다. 이번 4차 대화는 지난 9월 윤석열 대통령이 참여한 '대한민국 초거대 인공지능 도약' 행사에서 기업들이 AI 신뢰성 강화 조치를 약속한 후 실천 방향을 논의하는 차원에서 마련됐다.

과기정통부의 AI 신뢰성 확보 구상은 크게 산업 측면에서 민간 자율 규제, 기술·제도적 기반 마련, AI 의식 확산으로 나뉜다.

'국가 인공지능 윤리 기준'의 구체적 실천 방안으로 채용과 생성형 AI 기반 서비스 등 분야별 가이드라인이 마련되고 민간 자율 AI 신뢰성 검증과 인증을 다음달부터 추진하기로 했다. AI 사업 중 고위험 영역 AI 개발·실증 사업을 수행하는 기업을 선정해 오는 12월 시범 인증을 추진할 예정이다. 또한 AI의 기술적 한계와 오작동 등 위험 요인에 대응하기 위해 관련 기술 개발을 내년부터 신규로 추진한다. 내년부터 2027년까지 차세대 생성 AI 기술을 개발하는 데 총 220억원이 투입된다. AI 생성물에 대한 표시 도입도 추진된다. 이용자들이 AI 생성물인지 알 수 있도록 워터마크를 사용하도록 권고하고, AI 생성물 표시를 의무화하는 방안을 의견 수렴을 거쳐 단계적으로 도입하기로 했다. 또 고위험 AI에 대한 해설서는 내년 1분기 중 마련한다.

이종호 과기정통부 장관은 이날 "인공지능 확산에 따라 새롭게 발생하는 윤리·신뢰성 이슈에 민관이 함께 조기에 대응해 사회적 수용성을 제고해 나갈 필요가 있다"고 말했다.

[강봉진 기자]