[뉴스해설]규제보다 진흥으로 AI 신뢰성 확보 추진

과기정통부 '신뢰할 수 있는 AI 실현전략' 발표
개발자용 원스톱 지침서 '개발 가이드북' 마련
AI 법·규제, 개인정보보호, 윤리기준 등 포함
650억원 투입해 민간 기업 원천기술 개발 지원

윤성로 4차산업혁명위원장이 13일 정부서울청사 별관에서 신뢰할 수 있는 인공지능 실현전략 정책방향에 대해 설명하며 “AI 대중화를 위해 신뢰성 확보가 중요하다”고 강조했다.

과학기술정보통신부가 마련한 '신뢰할 수 있는 인공지능(AI) 실현전략'은 AI의 안전한 개발과 활용, 차세대 AI 기술을 적용한 설명 가능한 AI 구현을 목표로 한다.

AI 관련 법·제도 전반을 해석해 AI 기술과 서비스 개발에 필요한 기본정보를 제공하고 글로벌 동향을 파악해 우리나라 기업의 글로벌 시장 진출을 전폭 지원한다. 민간 자율 체크리스트를 마련, 기업·개발자 등이 AI 윤리기준을 준수할 수 있도록 돕는 데 초점을 맞췄다.

과기정통부는 AI 기술 고도화와 산업 활성화를 위해서는 신뢰 확보가 선결조건이라고 판단했다. 민간 의견 수렴, 자율 참여 등으로 규제보다는 진흥에 초점을 맞춘 AI 신뢰성 로드맵 역할이 기대된다.

◇민간 자율로 AI 신뢰성 제고

과기정통부는 주요 국가 사례를 참고해 규제보다는 민간 자율과 진흥이 국내 상황에 적합하다고 판단, 한국형 AI 신뢰성 강화 로드맵을 마련했다. 우리나라 AI 기업과 서비스 글로벌 진출까지 염두에 둔 정책으로 풀이된다.

신뢰할 수 있는 AI 실현전략 핵심은 민간에서 인공지능 제품서비스를 구현하는 단계에서 기업과 개발자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원하는 것이다.

과기정통부는 전문가·기업·개발자 등과 복잡한 AI 관련 법·규제와 개인정보보호, 윤리기준 등을 포함한 개발자용 원스톱 지침서 '개발 가이드북'을 마련할 계획이다.

기업과 개발자 등이 가이드북만 준용하면 별다른 문제 없이 AI 서비스를 개발·제공하고 기술을 고도화할 수 있는 참고서 제공 차원으로 풀이된다. 가이드북에는 AI 기술·서비스 개발에 참고할 국내외 신뢰성 관련 법·제도·윤리·기술적 요구사항을 총망라한다.

과기정통부는 개발 가이드북을 준수한 신뢰성 확보 여부와 수준을 확인하고 평가할 수 있는 검증절차, 항목, 방법 등 검증체계를 마련하고 제시한다. 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

규제 위주가 아닌 민간 의견 수렴을 바탕으로 현장 목소리를 반영, 실질적으로 이용자에게 신뢰성을 확보할 수 있도록 제도 기반이 조성될 것으로 기대된다.

◇민간 기술개발 지원

과기정통부는 제도 기반 조성뿐만 아니라 650억원 이상 예산을 투입해 민간 기업 AI 신뢰성 확보를 위한 원천기술을 개발, 지원한다. AI 신뢰성 확보를 위한 3대 가치로 설명 가능성, 공정성, 견고성을 제시하고 예비타당성 조사를 거쳐 예산을 확보했다.

설명 가능성은 AI가 어떤 방식으로 정보를 수집, 분석해, 어떤 서비스에 활용하는지 개발된 모델에 전문가 보고서 생성 수준의 설명 가능성을 제공하는 기술로 내년부터 2026년까지 450억원을 투입한다. 공정성은 각종 법제와 규정 등으로부터 스스로 편향 요인을 식별, 편향 가능성을 진단하고 최적 제거 방안을 판단, 적용하는 기술로 같은 기간 200억원을 투입할 예정이다. 견고성은 AI를 적용한 각종 공격으로부터 보호하기 위한 대응능력을 확보하는 기술로 예타를 진행 중이다. 각 원천기술은 기업이 활용 가능하도록 제공돼 국가와 경제 전반 AI 신뢰성을 높일 것으로 기대된다.

AI 신뢰성 전략을 차질없이 수행하기 위해서는 예산 확보와 제도 개선 등 차원에서 국회 지원도 절실하다. 과기정통부는 현재 국회에 입법 발의된 AI 기본법 심의 과정에서 진흥뿐만 아니라 신뢰, 역기능 보호를 포함한 폭넓은 검토가 이뤄질 수 있도록 논의에 임한다는 계획이다.

김경만 과기정통부 AI기반정책과장은 “'이루다' 사태 이후 기업은 안전한 기술, 신뢰 가능한 AI 개발을 위한 지침서에 대한 필요성을 제기했다”며 “가이드북 발표 전 중소·벤처기업 등에 과도한 규제로 작용하지 않을지, 기술 실현이 가능한지 여부를 집중 점검하며 진흥 정책 위주로 운영할 것”이라고 말했다.

.

신뢰할 수 있는 인공지능 실현전략 비전 및 목표

박종진기자 truth@etnews.com