정부 "세계최초 AI법 마련 노력…AI 인증체계 하반기 시범운영"

"공신력 있는 제3기관의 초거대 AI 모델 위험성·성능 평가 지원"
설명 가능·공정한 AI 기술 개발에 2026년까지 650억원 투입

박윤규 과학기술정보통신부 2차관 [연합뉴스 자료사진]

(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부는 11일 '인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안' 제정을 지원해 우리나라가 세계 최초로 인공지능법을 마련할 수 있도록 노력하겠다고 밝혔다.

과기정통부는 이날 중구 제너시스랩 본사에서 박윤규 제2차관 주재로 AI 윤리·신뢰성 강화를 위한 현장간담회를 열어 국회에서 심의 중인 인공지능법에 대해 이같이 말했다.

박 차관은 "챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다"며 "국회 상임위원회 법안소위를 통과한 인공지능법은 고위험 영역에서 활용되는 인공지능을 정의하고 사전 고지 의무를 부과하는 한편 신뢰성 확보 조치 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다"고 설명했다.

그는 "일각에서 이 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다"라고 강조했다.

제정안은 국무총리와 민간위원을 공동 위원장으로 하는 인공지능위원회와 민간 전문가로 구성된 AI 신뢰성 전문위원회를 설치, 운영하도록 했다.

박 차관은 "아울러 최근 문제로 제기되는 AI의 한계를 극복할 연구개발 사업에 정부가 집중할 필요성도 강하게 느끼고 있다"고 덧붙였다.

최동원 과기정통부 인공지능기반정책과장은 AI 윤리·신뢰성 정책 추진 현황에 대해 "인공지능 제품·서비스의 위험 요인을 분석, 신뢰성을 검·인증하는 체계를 마련해 올해 하반기부터 시범 인증을 시작할 계획"이라고 밝혔다.

그는 초거대 AI 모델의 위험성과 성능 등에 대해 공신력 있는 제3기관이 평가할 수 있도록 정부가 지원하는 방안도 추진한다고 밝혔다.

과기정통부는 인공지능 윤리 영향 평가를 도입하는 한편 설명 가능성, 공정성 등을 갖춰 신뢰할 수 있는 인공지능의 기술적 기반을 마련하는 6개 과제에 2026년까지 650억원을 투자할 방침이다.

간담회에 참가한 송대섭 네이버 이사는 "네이버는 AI 서비스에 담긴 인간 중심의 가치를 살피고 우려 사항을 개선하는 프로세스로 '체크'(CHEC)를 도입했다"고 말했다.

그는 "서울대와 함께 만든 이 프로세스를 통해 AI 윤리 준칙이 기업 문화로 형성되도록 하는 방향성을 갖고 있다"며 "윤리 점검 결과는 리포트를 통해 공개할 것"이라고 덧붙였다.

김유철 LG AI 연구원 부문장은 "사례별 윤리 점검을 기반으로 과제 특성별 점검 항목을 표준화해 자동화하는 시스템을 구축 중"이라고 말했다.

csm@yna.co.kr

▶제보는 카톡 okjebo