정부 '신뢰할 수 있는 AI 실현전략' 마련.."AI 윤리 강화"

스마트이미지 제공

정부가 2025년까지 믿을 만한 인공지능(AI) 서비스를 구현할 수 있도록 10대 과제를 추진한다. 이는 혐오·차별 발언과 개인정보 유출 논란으로 물의를 빚은 AI 챗봇(채팅 로봇) '이루다' 사태 재발을 막기 위한 조치다.

대통령 직속 4차산업혁명위원회는 13일 오후 서울중앙우체국에서 제22차 전체회의를 열고 '신뢰할 수 있는 인공지능 실현전략'을 심의, 의결했다.

이번 전략은 '누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현'을 비전으로 정하고, 2025년까지 책임있는 인공지능 활용 세계 5위, 신뢰 있는 사회 세계 10위, 안전한 사이버국가 세계 5위 달성을 목표로 세웠다.

우선 신뢰할 수 있는 인공지능 구현 환경을 조성하기 위해 민간에서 인공지능 제품·서비스를 구현하는 개발, 검증, 인증 단계에 따라 신뢰확보 기준을 제시하고 지원한다.

개발 단계에서는 국내외 신뢰성 관련 요구사항을 확인할 수 있는 개발 가이드북을 보급하고, 검증 단계에서는 신뢰성 확보 여부 등을 검증할 수 있는 체계를 제시한다. 인증 단계에서는 검증체계를 통과한 제품, 서비스에 대해 민간 자율 인증과 공시를 추진한다.

대통령 직속 4차산업혁명위원회 제공

스타트업도 신뢰성을 확보할 수 있도록 인공지능 허브 플랫폼에서 데이터 확보, 알고리즘 학습, 신뢰성 검증을 통합적으로 지원한다.

안전한 인공지능 활용을 위해서는 민관이 인공지능 학습용 데이터 제작공정에서 공통으로 준수해야 할 표준 기준을 마련하기로 했다. 또 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 계획이다.

인공지능 영향평가를 도입하고 향후 인공지능 관련 정책이나 조치방안 수립 시 활용할 방침이다.

정부는 사회 전반에 건전한 인공지능 의식이 확산할 수 있도록 인공지능 윤리교육 총론을 마련하고, 개발자·시민에게 맞춤형 교육도 진행할 예정이다.

개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발한다.

최기영 과기부 장관은 "최근 챗봇 사건은 우리 사회가 AI의 신뢰성에 대해 어떻게 대처해야 하는지 숙제를 안기는 계기가 됐다"며 "사람이 중심이 되는 AI 강국 실현을 위해 이번 전략을 추진하겠다"고 말했다.

▶ 기자와 카톡 채팅하기
▶ 노컷뉴스 영상 구독하기

[CBS노컷뉴스 김선경 기자] sunkim@cbs.co.kr