"AI도 공공선 지켜야"…정부, AI 윤리원칙 초안 공개

-7월 8일까지 대국민 의견수렴 거쳐 최종안 확정

*재판매 및 DB 금지 /사진=뉴시스

[파이낸셜뉴스] 정부가 생성형 AI 시대에 맞춰 국가 차원의 인공지능(AI) 윤리원칙을 전면 개편한다. 인간 존엄성과 사회 공공선, 기술 신뢰성을 3대 가치로 제시하고, 인간 자율성·프라이버시·공정성·지속가능성·안전성·투명성 등 6대 원칙을 새롭게 정립한다.

과학기술정보통신부는 정보통신정책연구원(KISDI)과 함께 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법) 시행과 변화한 AI 환경을 반영한 '인공지능 윤리원칙' 초안을 마련하고 7월 8일까지 공개 의견수렴에 들어간다고 28일 밝혔다.

이번 초안은 2020년 발표된 범정부 '사람이 중심이 되는 인공지능 윤리기준'을 계승하면서도 생성형 AI 확산과 AI기본법 시행 등 최근 제도·기술 환경 변화를 반영해 국가 차원의 상위 윤리규범으로 재정립한 것이 특징이다.

이번 윤리원칙의 핵심 메시지는 'AI 혁신과 활용은 인간과 사회가 신뢰할 수 있는 방향으로 이뤄져야 한다'는 점이다. 정부는 이를 위해 3대 가치와 6대 원칙 체계를 새롭게 구성했다.

우선 3대 가치로는 △인간의 존엄성 △사회의 공공선 △기술의 신뢰성을 제시했다. AI 개발·활용 과정에서 인간의 자율성과 주체성을 존중하고 기술 혜택이 특정 집단에 편중되지 않도록 하며, 안전하고 신뢰 가능한 방식으로 AI를 활용해야 한다는 내용이다.

이를 구체화하기 위한 6대 원칙으로는 △인간의 자율성 △프라이버시 △공정성·포용성 △지속가능성 △안전성 △투명성을 담았다.

특히 이번 초안에는 생성형 AI 시대 핵심 쟁점이 다수 반영됐다. AI 과의존 방지와 자기결정권 보장, 개인정보와 자기정보통제권 보호, 데이터·알고리즘 기반 차별 최소화, AI의 환경·에너지 부담 고려, AI 오작동 및 외부 공격 대응 체계 구축, AI 개입 여부 고지와 설명 가능성 확보 등이 대표적이다.

정부는 그동안 부처·기관별로 AI 가이드라인이 개별적으로 축적되면서 기준 간 관계가 불명확하고 현장 혼선이 발생해 왔다고 보고 있다. AI기본법 시행으로 국가 윤리원칙의 법·정책적 위상이 높아진 만큼, 이번 원칙이 향후 세부 가이드라인과 정책의 상위 준거틀 역할을 할 것이라는 설명이다. 과기정통부는 산업계·학계·시민사회·관계부처 의견을 수렴한 뒤 최종안을 확정할 계획이다.

과기정통부 류제명 제2차관은 "AI 시대의 주도권은 기술력뿐만 아니라, 그 기술을 얼마나 투명하고 안전하게 관리할 수 있느냐에 달려 있다"며 "새롭게 정립되는 윤리원칙이 사회적 수용성을 확보하고 글로벌 규범의 기준선으로 자리 잡을 수 있도록 폭넓고 실질적인 의견수렴을 거쳐 최종안을 완성하겠다"고 말했다.

yjjoe@fnnews.com 조윤주 기자