정부, 공공 AI 윤리기준 확정 "AI가 결정해도 책임은 사람"

행안부, '공공부문 인공지능 윤리기준' 확정
68개 점검표 마련해 실제 업무서도 활용…3단계 맞춤형 자율점검 체계 도입

연합뉴스

정부가 공공부문에서 인공지능(AI)을 활용할 때 지켜야 할 세부 점검사항을 마련했다. AI가 행정 의사결정을 지원하거나 직접 판단에 활용되더라도 최종적인 책임과 통제는 사람이 맡도록 해 신뢰성을 확보하겠다는 목표다.

1일 행정안전부는 공공부문의 AI 도입 확대에 맞춰 '공공부문 인공지능 윤리기준'을 최종 확정했다고 밝혔다.

이번 윤리기준은 국정과제인 '세계 최고 AI 민주정부 실현'을 위한 핵심 실천과제 가운데 하나로 마련됐다. AI 활용 과정에서 발생할 수 있는 편향된 결정과 프라이버시 침해 등의 우려를 줄이고 국민이 안심할 수 있는 행정 환경을 조성하기 위한 것이다.

최근 AI 기술이 발전하면서 공공분야에서도 AI를 활용한 업무 혁신이 퍼지고 있다. 주요 국가와 국제기구도 AI 윤리 지침을 내놓고 있는 가운데, 국내에서는 최근 과학기술정보통신부가 사회 전 영역에 적용할 '인공지능 윤리원칙'을 마련한 바 있다.

더 나아가 행안부는 공직사회에 AI 윤리를 정착시키기 위해 국내외 AI 윤리기준을 분석하고 전문가 자문을 거쳐 이번 기준을 마련했다. 행안부는 지난해 11월 마련한 초안에 대해 관계기관과 학계 전문가들의 검토와 의견 수렴을 거쳐 공공 업무의 특성에 맞는 68개 세부 점검사항까지 점검표로 마련했다.

확정된 윤리기준 최종안은 행정 혁신을 촉진하고 국민의 신뢰를 구축하는 것을 목표로, 국민·행정·기술의 세 가지 관점에서 공공성 △형평성 △투명성 △책임성 △안전성 △프라이버시 보호 등 6대 핵심가치를 제시했다. 또 AI 활용 수준에 따라 기관이 윤리기준을 적용할 수 있도록, 기초활용에 해당하는 '적용', 의사결정을 지원하는 '응용', 자율결정을 기반으로 하는 '융합'에 이르는 3단계 자율점검 체계도 도입했다.

특히 '책임성' 기준에서는 AI가 행정 의사결정을 지원하거나 직접 판단에 활용되더라도 최종적인 책임과 통제는 사람에게 있다는 점을 명확히 했다. AI가 복지대상자 선정, 인허가, 위험예측 등 국민의 권리와 생활에 직접 영향을 미치는 행정업무에 활용될 경우 오류가 발생했을 때 누가 이를 확인하고 책임질지 명확히 해야 한다는 취지다.

이에 따라 AI 서비스의 기획부터 제공까지 전 과정에서 책임 주체를 명확히 하고, AI의 판단과 결정에 대해 사람이 검토하고 개입할 수 있는 인적 감독체계와 사후관리·피해구제 체계를 갖추도록 했다.

아울러 행안부는 이번 윤리기준을 공직자가 업무 과정에서 AI 윤리를 직접 점검하고 개선할 수 있도록 실무 지침으로 활용하도록 마련했다고 강조했다.

행안부는 윤리기준이 실제 업무에서 작동할 수 있도록 공공부문 종사자를 대상으로 교육 프로그램을 운영할 계획이다. 이를 통해 공직자가 변화하는 기술 환경에서 윤리적 문제를 스스로 판단하고 해결할 수 있는 역량을 갖추도록 지원할 예정이다.

또 빠르게 변하는 AI 기술의 특성을 고려해 새롭게 등장하는 윤리적 이슈를 조기에 파악하고 이를 점검사항에 반영하는 환류 체계를 마련한다. 이를 통해 윤리기준을 사회적 요구에 맞춰 지속해서 개선할 계획이다.

윤호중 행안부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 밝혔다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 :jebo@cbs.co.kr
• 카카오톡 :@노컷뉴스
• 사이트 :https://www.nocutnews.co.kr/jebo/write.aspx

CBS노컷뉴스 김민재 기자 ten@cbs.co.kr

진실은 노컷, 거짓은 칼컷