AI 신뢰성 자율 인증 다음달부터 추진… 워터마크 도입 검토도

제4차 AI 최고위 전략대화…이종호 "정책 보완할 것"

이종호 과학기술정보통신부 장관이 8일 오후 경기도 성남시 분당구 카카오판교아지트에서 열린 '제3차 인공지능 최고위 전략대화'에서 인사말을 하고 있다. (과학기술정보통신부 제공) 2023.3.8/뉴스1

(서울=뉴스1) 양새롬 기자 = 과학기술정보통신부는 25일 서울 강서구 LG사이언스파크에서 인공지능(AI) 위험성 우려에 대응해 안전한 인공지능 확산방안을 논의하기 위해 제4차 인공지능 최고위 전략대화를 개최했다.

이 자리에는 이종호 과기정통부 장관과 고학수 개인정보보호위원회 위원장 및 인공지능 분야 민간 최고위 관계자들이 참석했다.

과기정통부는 이 자리에서 그간 수렴한 의견들을 토대로 '인공지능 윤리·신뢰성 확보 추진계획'을 발표했다.

이는 △민간 자율 인공지능 윤리·신뢰성 확보 지원 △세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 △사회 전반 책임있는 인공지능 의식 확산 등이다.

이를 위해 과기정통부는 생성형 인공지능 기반 서비스 등 분야별 가이드라인을 마련·확대하고 민간 자율 신뢰성 검·인증을 다음달부터 추진한다.

고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 12월에는 시범 인증을 추진할 예정이다.

또 기존 인공지능의 한계를 극복하고 초거대 인공지능의 신뢰성을 확보하기 위한 기술을 개발하고자 내년부터 총 220억원을 투입한다.

아울러 인공지능이 생성한 결과물에 워터마크 도입의 제도화를 검토하고, 고위험 인공지능 관련 해설서를 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다.

민간에서는 김유철 LG AI 연구원 부문장이 '인공지능 윤리칙 실행을 위한 기업의 노력'을, 김동민 JLK 대표는 '고위험 인공지능 분야 신뢰성 검인증의 필요성'을 발표했다.

뒤이어 진행된 주제별 토론에서 기업들은 인공지능 생성물에 가시적 워터마크 도입이 필요하다는 점에 공감했고, 자사 서비스에 단계적으로 적용하는 데 동의했다고 과기정통부는 전했다.

이종호 장관은 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과 적합한 규제 체계를 정립해가는 데 힘쓰고, 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다"고 말했다.

flyhighrom@news1.kr