“AI 안전성 인증”...KTC·KORAIA 서비스 공동운영 업무협약

산업지능화 시험인증 서비스 운영 비롯해
AI 모델·시스템 신규 시험·인증 개발 협력

14일 서울 강남구 코엑스에서 열리고 있는 ‘AI EXPO KOREA 2025’에서 한국기계전기전자시험연구원(KTC)의 홍보부스가 운영되고 있다. KTC 제공

인공지능(AI) 예측 결과의 신뢰성과 안전성에 대한 요구가 높아지고 있는 가운데 각 모델의 성능을 판단하기 위한 올바른 기준과 평가 방법의 필요성이 부상하고 있다. 이에 한국기계전기전자시험연구원(KTC·원장 안성일)은 (사)한국인공지능협회(KORAIA·회장 김현철)와 ‘AI 소프트웨어 평가 경쟁력 강화 및 신규 시험인증 서비스 공동운영을 위한 업무협약(MOU)’을 체결했다

KTC에 따르면 14일 ‘AI EXPO KOREA 2025’가 열리고 있는 서울 강남구 코엑스에서 이 같은 업무협약을 체결했다. AI 인증 분야는 아직 명확한 기준과 평가 방법의 부재로 인해 AI의 품질과 신뢰성을 보장하는 데 어려움을 겪고 있다. 이는 개발 기업에게 개발 과정 및 실용화 일정 확보에 애로사항으로도 작용하고 있는 실정이다.

이번에 KTC와 KORAIA가 체결한 협약의 주요 내용은 △산업지능화 시험인증 서비스 운영 협력 △AI 모델 및 시스템에 대한 신규 시험·인증 서비스 개발 협력 △AI 평가 및 품질 향상을 위한 기술지원 및 교육 협력 △AI 분야 활성화를 위한 협력 네트워크 구축 등이다. 양 기관은 AI 모델 및 시스템의 품질, 신뢰성, 성능을 평가하는 원스탑 시험인증 서비스(산업지능화인증) 공동 운영을 통해 AI의 품질, 성능, 신뢰성을 체계적으로 평가하고 AI 고유의 위험(데이터 편향, 신뢰성)과 안전 문제를 철저히 검증 강화해 AI의 품질을 높이고 업계의 애로사항을 해소하겠다는 방침이다. 또 양 기관의 시험인증 서비스는 KTC에서 분석하고 제시한 국제표준화기구(ISO)·국제전기기술위원회(IEC) AI 국제 표준을 KORAIA의 산업지능화인증(AI 기술 융합 인증 제도)에 접목해 기업이 신뢰할 수 있는 AI 제품을 개발하고 시장 경쟁력을 강화할 수 있도록 지원할 예정이다.

한편 KTC는 KORAIA가 주최하는 국내 최대 규모의 AI 전문 박람회인 ‘AI EXPO KOREA 2025’에 참가하여 AI분야를 포함한 다양한 영역에서 시험인증 역량 홍보에 나서기도 했다. ‘AI EXPO KOREA 2025’는 2018년부터 개최된 국내 대표 AI 전문 박람회로, 최첨단 AI 기술 및 솔루션, 다양한 산업별 AI 적용 사례 등을 선보인다.

KTC는 이번 행사에서 AI의 설계, 개발, 검증, 배포 등 ‘개발 전주기 평가 서비스’를 선보일 예정이다. 또 AI 모델 및 시스템의 품질·신뢰성·성능을 평가하는 원스톱 시험인증(산업지능화인증) 서비스 운영도 소개한다. 안성일 KTC 원장은 “AI, 정보보안, IoT(사물인터넷), 스마트가전, 전파통신 등의 분야는 현재 가장 가파르게 성장하고 있고 전 세계가 시장 선점을 위해 치열하게 경쟁 중”이라며 “이러한 첨단산업에서 선도적인 시험인증 서비스를 제공하고 특히 AI 분야에서 국제적으로 신뢰성을 확보할 다양한 지원 전략도 마련해 국내 기업의 글로벌 경쟁력 향상을 적극 돕겠다”고 말했다.

박준희 기자