‘AI 신뢰 높여라’ 자율 검증하고 워터마크 도입키로

과기정통부, AI 최고위 전략대화서 추진계획 밝혀

이종호 과학기술정보통신부 장관과 고학수 개인정보보호위원회 위원장이 25일 오전 서울 강서구 LG사이언스파크에서 열린 ‘제4차 인공지능 최고위 전략대화’ 에서 침석자들과 기념촬영 하고 있다.<제공=과기정통부>

정부가 인공지능(AI) 신뢰성을 높이기 위해 민간 자율의 신뢰성 검·인증을 추진하고 AI 생성 결과물에 대한 표시를 위해 워터마크 도입을 검토한다.

과학기술정보통신부는 25일 LG사이언스파크에서 ‘제4차 인공지능 최고위 전략대화’를 열고 이런 내용의 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표했다. 인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민·관이 함께 정책·투자방향, 전략적 협력방안을 논의하는 인공지능 대표급 협의체다. 이번 4차 대화는 지난 9월 윤석열 대통령이 참여한 ‘대한민국 초거대 인공지능 도약’ 행사에서 기업들이 AI 신뢰성 강화 조치를 약속한 후 실천방향을 논의하는 차원에서 마련됐다.

과기정통부의 AI 신뢰성 확보 구상은 크게 산업 측면에서 민간 자율규제, 기술·제도적 기반 마련 그리고 AI 의식 확산으로 나뉜다.

‘국가 인공지능 윤리기준’의 구체적 실천 방안으로 채용과 생성형 AI 기반 서비스 등 분야별 가이드라인이 마련되고 민간 자율 AI 신뢰성 검·인증을 다음달부터 추진하기로 했다. AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 선정해 12월에 시범 인증을 추진할 예정이다. 또한 AI의 기술적 한계와 오작동 등의 위험요인에 대응하기 위해 관련 기술 개발을 내년부터 신규로 추진한다. 내년부터 2027년까지 차세대 생성 인공지능 기술개발에 총 220억원이 투입된다.

AI 생성물에 대한 표시 도입도 추진된다. 이용자들이 AI 생성물인지를 알 수 있도록 워터마크를 하도록 권고하고, AI 생성물 표시를 의무화하는 방안을 의견 수렴을 거쳐 단계적으로 도입키로 했다. 고위험 AI에 대한 해설서를 내년 1분기 중 마련한다.

이날 행사에 참석한 네이버·SKT·KT·카카오·LG 등 초거대 AI기업의 관계자들은 AI 생성 결과물에 대한 ‘가시적 워터마크’ 도입이 필요하다는 점에 공감하고, 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다. 이날 김유철 LG AI 연구원 부문장이 ‘인공지능 윤리 원칙 실행을 위한 기업의 노력’을, 김동민 JLK 대표가 ‘고위험 인공지능 분야에 대한 신뢰성 검·인증의 필요성’을 각각 발표했다.

이종호 과기정통부 장관은 이날 “인공지능은 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”며 “AI 확산에 따라 새롭게 발생하는 윤리·신뢰성 이슈에 대해서 민관이 함께 조기에 대응해 AI 사회적 수용성을 제고해 나갈 필요가 있다”고 말했다.

고학수 개인정보위 위원장은 “전세계적으로 AI가 가져올 사회적 편익에 대한 기대가 높지만 다른 한편으로는 AI 위험성에 대한 우려가 커지고 있고이를 관리하기 위한 글로벌 규범 논의도 빠르게 확대되고 있다”며 “우리나라 여건과 국익에 부합하는 방향으로 국제적 논의를 주도하는데 역량을 집중하겠다”고 말했다.