국내기업 AI 신뢰성 향상 위해 … 민간 인증제 첫 도입

손승현 정보통신기술협회장
AI 제품·서비스 대상으로
정부가 정한 윤리원칙 지켜
책임성 등 67개 항목 평가
과기부와 공동 설명회 개최

한국정보통신기술협회(TTA)가 인공지능(AI)의 신뢰성을 확보하기 위한 민간 자율 인증 체계를 정식으로 선보인다. AI의 빠른 발전과 함께 제기되는 윤리적 문제를 검증할 수 있는 방안을 준비해 국내 AI 생태계의 신뢰성을 강화하겠다는 목표다.

TTA는 지난달 31일 AI 신뢰성 민간 인증을 통한 기업 지원 서비스를 정식 출시했다고 6일 밝혔다. 지난달 31일에는 과학기술정보통신부와 함께 민간 자율 방식의 AI 신뢰성 검·인증 체계 설명회도 진행했다.

TTA는 향후 민간 자율 방식의 AI 신뢰성 인증 체계를 마련해 시행할 예정이다. 이는 과기부의 'AI 신뢰성 기반 조성' 사업의 일환으로 진행된다. 신뢰성 인증은 AI 제품·서비스를 대상으로 시행하며 이를 기획·개발·운영하는 주체의 신뢰성 확보 역량을 제3의 전문기관이 종합적으로 검증하는 방식이다. 정부가 2020년 마련한 AI 윤리 기준의 10대 원칙 중 다양성 존중, 책임성, 투명성, 안전성을 중심으로 하는 15개 요구사항과 67개 검증 항목을 정량적·정성적으로 평가한다.

TTA는 최근 다소 추상적이었던 AI의 위험이 매우 구체화되면서 AI 신뢰성을 확보하기 위한 전 세계 움직임이 시작되고 있다며 AI 신뢰성 확보의 필요성을 강조했다. 다만 아직 국제표준이 제정되지 않았고 국내에서도 AI 신뢰성에 대한 이해가 부족하다는 점에서 제3자 기관을 통한 민간 인증으로 기업의 자발적이고 자율적인 노력을 끌어낸다는 목표다.

TTA가 지난해 12월 100여 개 국내 AI 기업을 대상으로 시행한 설문조사에 따르면 AI 기업 71%가 인증 필요성에 긍정적으로 응답했으며 그중 89%가 인증 도입과 시행이 시급하다고 답변한 것으로 나타났다.

현재 전 세계는 AI의 위험성과 우려에 대한 인식을 바탕으로 신뢰성·안전성을 강화하려는 움직임이 거세다. 유럽연합(EU)은 2019년 '신뢰할 수 있는 AI 프레임워크' 마련을 시작으로 AI 규제안 초안을 지난 6월 의결한 바 있다. 상대적으로 기술 혁신에 집중해온 미국도 지난달 조 바이든 대통령이 AI 규제 행정명령에 서명하는 등 AI의 신뢰성·윤리 확보에 나서는 분위기다.

한국도 '디지털 권리장전'을 발표하는 등 새로운 규범 체계를 마련하는 데 속도를 내고 있으며, TTA가 키를 잡은 민간 차원의 신뢰성 인증 체계 구축도 같은 맥락이다.

TTA는 2021년부터 '신뢰할 수 있는 AI 개발 안내서'를 마련하는 등 AI 기업의 신뢰성을 확보하기 위해 노력을 기울여왔다.

TTA는 표준 기반의 시험 인증이 기업의 제품 홍보 또는 신뢰성 확산 수단으로 자리 잡을 수 있도록 공신력 강화를 위한 정책과 활동을 병행할 예정이다. 전기전자공학자협회(IEEE), 미국 상무부 산하의 국립표준기술연구소(NIST) 등 해외 기관과의 협력도 추진한다.

또 정부 정책과의 정합성을 상시 검토하고 산업계 전문가와 정례적 협의를 거쳐 기술적 타당성과 적합성을 보장하기 위해 노력을 기울인다는 설명이다.

손승현 TTA 회장은 "AI 신뢰성 민간 자율 인증을 통해 많은 기업이 신뢰성과 글로벌 경쟁력을 확보하는 계기가 될 수 있기를 희망한다"며 "AI 제품·서비스의 신뢰성 확보가 우리나라 AI 산업과 생태계 전체의 신뢰성 확보로 이어지길 바란다"고 밝혔다.

[정호준 기자]