AI가 판단해도 최종 책임은 사람에게…공공부문 윤리기준 확정

공공성·형평성·투명성 등 6대 핵심가치 담아
기획부터 서비스 제공까지 책임 주체 명확화…피해구제 체계 마련
기초활용·의사결정 지원·자율결정 단계별 점검…공직자 교육 추진

정부세종청사 중앙동 전경. ⓒ데일리안DB

인공지능(AI)을 복지대상자 선정과 인허가 등 행정업무에 활용하더라도 최종 책임과 통제는 사람에게 두도록 하는 윤리기준이 마련됐다. AI의 편향된 결정과 사생활 침해를 예방하고 국민의 권리를 보호하기 위한 기준이다.

행정안전부는 공공기관이 AI를 도입하고 활용할 때 참고할 ‘공공부문 인공지능 윤리기준’을 최종 확정했다고 1일 밝혔다. 공공 업무의 특성을 반영한 68개 세부 점검항목과 AI 활용 수준에 따른 3단계 자율점검 체계를 담았다.

핵심가치는 공공성·형평성·투명성·책임성·안전성·프라이버시 보호 등 6가지다. 국민 관점에서는 공공의 이익과 차별 없는 서비스 제공을, 행정 관점에서는 AI 도입·활용 과정의 공개와 책임 주체 명확화를 강조했다. 기술 관점에는 안전한 운영과 개인정보·사생활 보호를 담았다.

특히 책임성 기준은 AI 서비스의 기획부터 제공까지 전 과정에서 책임 주체를 명확히 하도록 했다. AI의 판단과 결정을 사람이 검토하고 개입할 수 있는 감독 체계와 함께 사후관리·피해구제 체계도 마련하도록 제시했다.

이는 국민 생활에 직접 영향을 주는 행정업무에서 AI 판단에 오류가 발생했을 때 누가 이를 확인하고 책임질 것인지 구체화하기 위한 조치다. 기준은 공직자가 업무 과정에서 윤리적 문제를 스스로 점검하고 개선하는 실무 지침으로 활용된다.

또 기관별 서비스 특성을 고려해 자율점검 단계를 나눴다. 기초활용에 해당하는 1단계 ‘적용’, 의사결정을 지원하는 2단계 ‘응용’, 자율결정을 기반으로 하는 3단계 ‘융합’으로 구분해 AI 활용 수준에 맞는 윤리기준을 적용할 수 있도록 했다.

행안부는 공공부문 종사자를 대상으로 교육 프로그램을 운영할 계획이다. 이와 함께 새로운 윤리적 쟁점을 조기에 파악하고 점검항목에 반영해 기술 변화와 사회적 요구에 맞춰 기준을 보완할 방침이다.

윤호중 행정안전부 장관은 “인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다”며 “이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다”고 말했다.