TTA, 교육 분야 최초 인공지능 신뢰성 인증 부여

TTA, 교육 분야 최초 인공지능 신뢰성 인증(CAT) 부여. /TTA 제공

한국정보통신기술협회(TTA)는 단감소프트의 인공지능 모델 ‘커리어 리커멘더(CareerRecommender) v1.0′에 대해 교육 분야 최초 ‘인공지능 신뢰성 인증(CAT)’을 부여했다고 3일 밝혔다.

‘CareerRecommender v1.0′은 온라인 학습 플랫폼을 사용하는 학습자의 직무 성향을 분석해 맞춤형 교육 콘텐츠를 추천하는 시스템으로, 직무 성향 추천 결과와 LMS(학습관리시스템)의 학습자 수강 이력을 기반으로 학습자에게 최적화된 개인 맞춤형 교육 콘텐츠를 추천하는 AI 모델이다.

이번에 인증을 부여받은 ‘CareerRecommender v1.0′은 직무 성향 및 맞춤형 교육 콘텐츠 추천 시 발생 가능한 특정 콘텐츠 중심의 추천 방지, 추천에 대한 설명가능성 확보 등과 관련된 11개 인증 요구사항을 모두 충족했다. 요구사항에는 AI 거버넌스 구축, 데이터 사용의 적절성, AI 모델 및 사고 발생 시의 추적 가능성 등이 포함되었으며, 단감소프트는 이에 대한 기술·절차적 시험 기준을 모두 충족하여 자사의 AI 모델이 안전하고 신뢰할 수 있음을 입증했다.

‘인공지능 신뢰성 인증(CAT)’은 국내 기업들의 AI 제품 신뢰성 향상과 동시에 글로벌 경쟁력 강화를 목적으로 운영 중인 민간 자율 인증 제도이다. 해당 인증은 ISO/IEC AI 신뢰성 관련 국제 표준, UNESCO, NIST, EU AI ACT 등 국제 사회가 정의한 AI 신뢰성 요구 조건에 따라 위험 기반 평가를 수행하며, 기업들이 신뢰할 수 있는 AI 제품을 개발할 수 있도록 지원하고 있다.

교육 분야 최초로 부여된 이번 인증은 기 부여된 3개 분야(안전, 국방, 채용)와 더불어 신뢰할 수 있는 AI에 대한 인식 확산을 가속화 할 것으로 기대된다. 또한, TTA는 인증제도 운영과 함께 과학기술정보통신부와 협력하여 다양한 AI 신뢰성 관련 활동을 지속적으로 추진하고 있다.

특히 올해에는 국내 생성형 AI를 대상으로 레드팀 챌린지 행사를 열어, AI 시스템의 취약점을 탐지하고 개선하는 기회를 제공했다. 이와 함께, 매년 신뢰성이 검증된 AI 제품을 대상으로 ‘인공지능 신뢰성·품질 대상’을 운영하는 등 다양한 AI 신뢰성 관련 활동을 지속적으로 전개하여 국내 AI 기업들의 AI 신뢰성 확보 체계를 내재화할 수 있도록 힘쓰고 있다.

손승현 TTA 회장은 “최근 다양한 분야에서 AI 기술 적용이 활발해지고 있으며, 특히 교육 분야의 경우 AI를 통한 교육 혁신에 대한 관심이 높은 상황이다”라며 “이번 인증을 계기로 학습·교수자가 AI 기술을 믿고 사용할 수 있도록 교육 분야에서도 AI 신뢰성 전문기관으로서의 역할을 다하겠다”라고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -