이종호 과기부 장관 “AI 신뢰성·안전성 확보 필수, 정책 보완할 것”

-제4차 인공지능 최고위 전략대화 개최
-민간 자율 인공지능 신뢰성 검·인증 내달부터 추진
-인공지능 결과물 워터마크 도입 제도화 검토

이종호 과학기술정보통신부 장관이 지난 8월 정부서울청사에서 2024년 국가 연구개발 사업 예산 배분 조정 결과를 발표하고 있다. [연합]

[헤럴드경제=박세정 기자] 이종호〈사진〉 과학기술정보통신부 장관이 인공지능(AI)의 윤리성, 신뢰성 확보를 위해 정책적 보완에 힘을 싣겠다고 밝혔다.

그 일환으로 민간 자율의 인공지능 신뢰성 검·인증을 다음달부터 추진한다. 내년부터 초거대 인공지능의 신뢰성 확보를 위한 기술개발에도 나선다.

이 장관은 25일 서울 마곡동 LG사이언스파크에 열린 ‘제4차 인공지능 최고위 전략대화’에서 “AI는 디지털 심화 시대의 핵심기술로서 인공지능의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”고 말했다.

이 장관은 “인공지능 윤리 생태계 기반 조성과 적합한 규제 체계를 정립해 가는데 힘쓸 것”이라며 “관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다”고 언급했다.

이종호 과학기술정보통신부 장관 [임세준 기자]

과기정통부는 인공지능 윤리·신뢰성 확보를 위해 ▷민간 자율 인공지능 윤리·신뢰성 확보 지원 ▷세계를 선도하는 인공지능 윤리·신뢰성 기술·제도적 기반 마련 ▷사회 전반 책임 있는 인공지능 의식 확산을 추진 계획으로 내세웠다.

세부적으로는 인공지능 기반 서비스의 분야별 가이드라인을 마련·확대하고 민간 자율의 신뢰성 검·인증을 11월부터 추진할 계획이다. 특히, AI 사업 중 고위험 영역 인공지능 개발·실증 사업을 수행하는 기업을 일부 선정해 올 12월에 시범 인증을 추진할 예정이다.

이와함께 인공지능 오작동 등 잠재 위험요인에 대응하기 위해 기존 인공지능의 한계를 극복하고 초거대 인공지능의 신뢰성을 확보하기 위한 기술 개발을 내년부터 신규로 추진할 예정이다. 과기정통부는 이같은 차세대생성인공지능개발을 위해 내년부터 2027년까지 총 220억원의 예산을 책정해놓은 상태다.

아울러 인공지능이 생성한 결과물에 대한 워터마크 도입의 제도화를 검토한다. 내년 1분기에는 고위험 인공지능에 대한 해설서를 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다.

한편, 이날 행사에는 네이버, 카카오, SK텔레콤 관계자와 LG AI 연구원 등이 참석했다. 김유철 LG AI 연구원 부문장이 ‘인공지능 윤리원칙 실행을 위한 기업의 노력’을 주제로 발표하고 신뢰성 검증이 나아가야 할 방향 등을 주제로 한 토론이 진행됐다.

sjpark@heraldcorp.com