민·관 최고위 AI 전략대화…내달 AI 신뢰성 자율 인증 추진

(서울=연합뉴스) 강건택 기자 = 신뢰할 수 있는 인공지능(AI)을 만들기 위해 민·관 최고위 인사들이 머리를 맞댔다.

이종호 과학기술정보통신부 장관은 25일 서울 강서구 LG사이언스파크에서 AI의 위험성에 관한 우려에 대응하고 안전한 AI 확산 방안을 논의하기 위해 제4차 인공지능 최고위 전략대화를 개최했다고 과기정통부가 밝혔다.

인공지능 최고위 전략대화는 국가 AI 경쟁력 강화를 위해 민·관이 함께 정책·투자 방향·전략적 협력 방안을 논의하는 대표급 협의체로, 이번 4차 대화는 지난 9월 기업들이 AI 신뢰성 강화 조치를 약속한 '대한민국 초거대 인공지능 도약' 행사의 후속 차원으로 마련됐다.

이날 과기정통부는 ▲ 민간 자율 AI 윤리·신뢰성 확보 지원 ▲ 선도적인 AI 윤리·신뢰성을 위한 기술·제도적 기반 마련 ▲ 사회 전반에 책임 있는 AI 의식 확산 등을 골자로 한 '인공지능 윤리·신뢰성 확보 추진 계획'을 발표했다.

추진 계획의 세부 과제에 따라 정부는 '국가 인공지능 윤리기준'의 구체적 실천 수단으로 생성형 AI와 채용 AI 기반 서비스 등 분야별 가이드라인을 마련해 확대하고, 오는 11월부터 민간 자율로 AI 신뢰성 검·인증을 추진하기로 했다.

아울러 인공지능 자체가 내포하는 편향성과 불투명성 등 기술적 한계와 인공지능 오작동에 따른 잠재적 위험 요인에 대응하기 위해 기존 인공지능의 한계를 극복하고 초거대 인공지능의 신뢰성을 확보하기 위한 차세대 기술 개발을 내년부터 추진할 예정이다.

또 인공지능이 생성한 결과물에 대한 워터마크 도입 제도화를 검토하고, 고위험 인공지능에 대한 해설서를 내년 1분기 중 마련하는 등 신뢰성 확보를 위한 제도 정립에 나선다.

민간에서는 김유철 LG AI 연구원 부문장이 '인공지능 윤리 원칙 실행을 위한 기업의 노력'을, JLK 김동민 대표가 '고위험 인공지능 분야에 대한 신뢰성 검·인증의 필요성'을 각각 발표했다.

이어 진행된 주제별 토론에서 기업들은 인공지능이 생성한 결과물에 가시적 워터마크 도입이 필요하다는 점에 공감했고, 자사 서비스에 단계적으로 적용하는 데 동의했다고 과기정통부는 전했다.

지난 3월 열린 제3차 인공지능 최고위 전략대화에서 인사말하는 이종호 장관 (성남=연합뉴스) 홍기원 기자 = 이종호 과학기술정보통신부 장관이 8일 오후 경기도 성남시 카카오에서 열린 '제3차 인공지능 최고위 전략대화'에서 인사말을 하고 있다. 2023.3.8 xanadu@yna.co.kr

firstcircle@yna.co.kr

▶제보는 카톡 okjebo