나를 떨어트린 'AI면접관'…"왜?" 설명 요구할 수 있다

인공지능(AI) 기술을 이용한 기업 면접에서 불합격한 응시자가 그 결정에 관해 설명을 요구할 경우, 기업은 구체적으로 이를 소명해야 합니다.

개인정보보호위원회는 이러한 내용이 담긴 '자동화된 결정에 대한 개인정보처리자의 조치 기준' 고시 제정안을 6월 7일까지 행정예고한다고 밝혔습니다.

이번 고시안은 올해 1월 개인정보보호법 시행령 심사 과정에서 기업·기관 등 개인정보처리자가 조치해야 할 세부 사항을 구체화할 필요가 있다는 규제개혁위원회의 의견을 반영한 것입니다.

인공지능 기술 등을 이용한 '자동화된 결정'으로 자신의 권리나 의무에 중대한 영향을 받은 정보주체가 설명을 요구한 경우 기업·기관은 이들에게 의미 있는 정보를 선별해 이해하기 쉬운 방식으로 간결하게 제공해야 합니다.

가령 기업의 채용 과정에서 AI 면접만으로 응시자의 개인정보를 분석해 불합격 결정을 내린 경우 응시자는 설명이나 검토를 요구할 수 있습니다.

또한 정보주체가 자신의 권리나 의무에 중대한 영향을 미친 자동화된 결정을 거부했다면, 해당 결정이 적용되는 것을 정지하고 조치 결과를 알리도록 했습니다.

하지만 정보주체가 자동화된 과정을 인지하고 이에 동의했다면 거부권은 행사할 수 없습니다.

'중대한 영향을 미치는 경우'에 해당하는지를 판단할 때는 사람의 생명·안전과 관련된 권리·의무인지, 정보주체의 권리가 박탈되거나 권리 행사가 불가능하게 되는지, 통상적으로 받아들일 수 있는 한도를 넘어서는 의무가 발생하는지, 지속적인 제한이 발생하는지, 이전의 상태로 회복할 가능성이 있는지 등을 종합적으로 고려합니다.

예를 들어 공공기관이 인공지능 기술을 활용한 '부정수급자 탐지시스템'으로 수급자인 정보주체의 개인정보를 분석·처리한 뒤 복지수당 지급을 취소하는 결정을 내린 경우 수급자는 이를 거부할 수 있습니다.

다만 사람이 개입해 재처리하고 그 결과를 알린 경우에는 결정 적용을 정지하는 조치를 하지 않을 수 있습니다.

아울러 고시안은 개인정보처리자가 다른 사람의 생명·신체·재산을 부당하게 침해할 우려가 있는 등 정당한 사유가 있는 경우 정보주체의 거부·설명 요구를 거절할 수 있게 했습니다.

이 밖에 관련 조치 기간을 연장해야 할 경우 그 이유를 구체적으로 설명하고, 정보주체의 요구를 거절해야 한다면 요구를 받은 날부터 열흘 이내에 이 사실을 알리도록 했습니다.

개인정보위는 24일 '자동화된 결정에 대한 정보주체의 권리 안내서' 초안을 공개하고, 자동화된 시스템을 운영하는 기업ㆍ기관을 중심으로 현장 간담회를 실시할 계획입니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지