AI 면접관이 내린 '불합격' 통보…자세한 설명 요구할 수 있다

개인정보위, '자동화된 결정에 대한 조치 기준' 고시 제정안

현장 면접 체험하는 학생들 [연합뉴스 자료사진]

(서울=연합뉴스) 이상서 기자 = 인공지능(AI) 기술을 이용한 기업 면접에서 불합격한 응시자가 그 결정에 관해 설명을 요구할 경우, 기업은 구체적으로 이를 소명해야 한다.

개인정보보호위원회는 이러한 내용이 담긴 '자동화된 결정에 대한 개인정보처리자의 조치 기준' 고시 제정안을 6월 7일까지 행정예고한다고 17일 밝혔다.

이번 고시안은 올해 1월 개인정보보호법 시행령 심사 과정에서 기업·기관 등 개인정보처리자가 조치해야 할 세부 사항을 구체화할 필요가 있다는 규제개혁위원회의 의견을 반영한 것이다.

인공지능 기술 등을 이용한 '자동화된 결정'으로 자신의 권리나 의무에 중대한 영향을 받은 정보주체가 설명을 요구한 경우 기업·기관은 이들에게 의미 있는 정보를 선별해 이해하기 쉬운 방식으로 간결하게 제공해야 한다.

가령 기업의 채용 과정에서 AI 면접만으로 응시자의 개인정보를 분석해 불합격 결정을 내린 경우 응시자는 설명이나 검토를 요구할 수 있다.

또한 정보주체가 자신의 권리나 의무에 중대한 영향을 미친 자동화된 결정을 거부했다면, 해당 결정이 적용되는 것을 정지하고 조치 결과를 알리도록 했다.

하지만 정보주체가 자동화된 과정을 인지하고 이에 동의했다면 거부권은 행사할 수 없다.

'중대한 영향을 미치는 경우'에 해당하는지를 판단할 때는 ▲ 사람의 생명·안전과 관련된 권리·의무인지 ▲ 정보주체의 권리가 박탈되거나 권리 행사가 불가능하게 되는지 ▲ 통상적으로 받아들일 수 있는 한도를 넘어서는 의무가 발생하는지 ▲ 지속적인 제한이 발생하는지 ▲ 이전의 상태로 회복할 가능성이 있는지 등을 종합적으로 고려한다.

예를 들어 공공기관이 인공지능 기술을 활용한 '부정수급자 탐지시스템'으로 수급자인 정보주체의 개인정보를 분석·처리한 뒤 복지수당 지급을 취소하는 결정을 내린 경우 수급자는 이를 거부할 수 있다.

다만 사람이 개입해 재처리하고 그 결과를 알린 경우에는 결정 적용을 정지하는 조치를 하지 않을 수 있다.

기자간담회 하는 고학수 개인정보위원장 (서울=연합뉴스) 최재구 기자 = 고학수 개인정보위원회 위원장이 14일 종로구 정부서울청사에서 출입기자단 대상 간담회를 하고 있다. 2024.5.14 jjaeck9@yna.co.kr

아울러 고시안은 개인정보처리자가 다른 사람의 생명·신체·재산을 부당하게 침해할 우려가 있는 등 정당한 사유가 있는 경우 정보주체의 거부·설명 요구를 거절할 수 있게 했다.

이 밖에 관련 조치 기간을 연장해야 할 경우 그 이유를 구체적으로 설명하고, 정보주체의 요구를 거절해야 한다면 요구를 받은 날부터 열흘 이내에 이 사실을 알리도록 했다.

개인정보위는 24일 '자동화된 결정에 대한 정보주체의 권리 안내서' 초안을 공개하고, 자동화된 시스템을 운영하는 기업ㆍ기관을 중심으로 현장 간담회를 실시할 계획이다.

shlamazel@yna.co.kr

▶제보는 카톡 okjebo