'민간자율 인공지능 신뢰성 인증' 첫 사례 나왔다

국내에서 민간자율 인공지능(AI) 신뢰성 인증 첫 사례가 나왔다.

과학기술정보통신부와 한국정보통신기술협회(TTA)는 6일 마크애니, 엔플럭스에 'AI 신뢰성 인증(CAT)'을 부여했다. 지난해 10월 민간자율 AI 신뢰성 인증제도 도입 이후 첫 인증 사례다. 국내 AI 제품과 서비스 신뢰성 확보를 위해 민간 자율체계를 확립했다는 점에서 의미가 있다.

마크애니의 'AI 영상 검색 및 대상물 이동경로 추적 솔루션'이 이번에 인증을 받았다. 이 솔루션은 실종자 인식 정확도 오류, 특정 인종·성별·연령에 대한 편향 등 AI 모델 오류를 위험요소로 식별한다. 함께 인증받은 엔플럭스 'AI 융합 지뢰탐지 모듈 v1.0'은 지표투과레이더(GPR) 이미지를 판독해 지뢰 여부, 지뢰 종류 판단 등 분석기능을 제공하는 시스템이다.

AI 신뢰성 인증제도 개요

앞서 과기정통부와 TTA는 2021년 분야별 '신뢰할 수 있는 AI 개발안내서'를 보급하며 AI 신뢰성 확보를 위한 기술 요구사항을 정립해왔다.

지난해 12월에는 개발안내서 내용을 바탕으로 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)와 국제 호환성을 확보한 국내 최초 AI 신뢰성 정보통신단체표준을 제정했다.

비슷한 시기 제정된 AI 신뢰성 인증제도는 자발적으로 AI 신뢰성을 확보하려는 사업자나 개발자가 대상이다. 과기정통부 AI 지원사업에서 고위험영역 AI에 해당하는 사업도 해당한다.

개발안내서 15개 요구사항에서 필수 요구사항을 선별해 검증항목을 선별한다. 개발안내서 적용법 교육 이후에 TTA가 요구사항 시험을 실시한 뒤 인증서를 발급한다.

민간 인증 전문기관인 TTA는 AI 기술을 활용한 제품과 서비스의 위험요인을 분석하고 신뢰성 확보를 위한 사업자 요구사항 준수 여부를 평가한다. AI 신뢰성 검증 과정에서 신뢰성 확보를 위한 보완 필요사항에 대해 사업자 대상 컨설팅을 수행하며 AI 제품과 서비스 신뢰성 개선을 지원한다.

과기정통부는 관계자는 “전문성 있는 기관을 통한 민간자율 AI 신뢰성 인증제도는 AI 혁신과 안전하고 신뢰할 수 있는 AI 활용을 동시에 촉진할 수 있을 것”이라며 “생성형 AI 기술과 시장 변화를 반영해 AI 신뢰성 인증제도를 고도화하고, AI 신뢰성 인증 모범사례를 확대해 국내 AI 산업 기반을 강화해 나갈 계획”이라고 말했다.

박두호 기자 walnut_park@etnews.com