과기정통부 “세계 최초 인공지능법 마련으로 윤리·신뢰성 확보”

챗GPT 등 인공지능(AI) 서비스가 확산하고 있는 가운데, 정부가 세계 최초로 인공지능법을 마련해 AI의 윤리·신뢰성을 확보해 나가겠다고 밝혔습니다.

박윤규 과학기술정보통신부 제2차관은 오늘(11일) 서울 중구 제너시스랩 본사에서 열린 ‘AI 윤리·신뢰성 강화를 위한 현장간담회’에서 “챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다”고 강조했습니다.

박 차관은 “국회 상임위원회 법안소위를 통과한 인공지능법은 고위험 영역에서 활용되는 인공지능을 정의하고 사전 고지 의무를 부과하고 있다”며 “신뢰성 확보 조치 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다”고 설명했습니다.

또한, “일각에서 이 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다”고도 말했습니다.

최동원 과기정통부 인공지능기반정책과장은 AI 윤리·신뢰성 정책 추진 현황에 대해 “인공지능 제품·서비스의 위험 요인을 분석, 신뢰성을 검·인증하는 체계를 마련해 올해 하반기부터 시범 인증을 시작할 계획”이라고 밝혔습니다.

초거대 AI 모델의 위험성과 성능 등에 대해 공신력 있는 제3기관이 평가할 수 있도록 정부가 지원하는 방안도 추진합니다.

과기정통부는 인공지능 윤리 영향 평가를 도입하는 한편, 설명 가능성과 공정성 등을 갖춰 신뢰할 수 있는 인공지능의 기술적 기반을 마련하는 6개 과제에 2026년까지 650억 원을 투자할 방침입니다.

간담회에 참가한 송대섭 네이버 이사는 “네이버는 AI 서비스에 담긴 인간 중심의 가치를 살피고 우려 사항을 개선하는 프로세스로 ‘체크’(CHEC)를 도입했다”고 말했습니다.

김유철 LG AI 연구원 부문장은 “사례별 윤리 점검을 기반으로 과제 특성별 점검 항목을 표준화해 자동화하는 시스템을 구축 중”이라고 밝혔습니다.

[사진 출처 : 연합뉴스]

김유대 기자 (ydkim@kbs.co.kr)