편견 담긴 AI 채용 불합격, 거부 가능해진다

22일 정부서울청사에서 열린 개인정보보호위원회 전체회의에서 고학수 위원장이 발언하고 있는 모습. 연합뉴스

인공지능(AI)을 활용한 정보 처리 과정에서 자신의 권리나 의무에 불이익을 받았다고 판단한 경우 처리 결과에 대해 설명을 요구할 수 있고, 인적 개입을 요청하도록 하는 관련 개정안이 시행된다. 예컨대 AI 시스템으로 채용하는 기업에 지원해 불합격 통보를 받았을때 그 결과에 대해 이의를 제기하고 설명을 요구할 수 있게 된다.

개인정보보호위원회는 22일 이런 내용의 ‘개인정보 보호법 시행령’ 2차 개정안을 오는 23일부터 내년 1월 2일까지 입법예고한다고 밝혔다.

서비스 이용자인 개인정보 주체가 인공지능 기술을 이용한 ‘자동화 시스템’으로 생명과 신체, 이익 등 자신의 권리나 의무가 침해됐거나 침해될 우려가 있다고 판단해 관련 정보 공유를 거부하겠다고 밝히면 서비스 운영자는 이에 걸맞은 조처를 해야만 한다.

정보 주체가 개인정보 제공 절차 등에 대한 설명을 요구하면, 처리자는 정보의 유형과 쓰이는 범위 등에 대해서도 답해야 한다.

개정안에는 개인정보를 다루는 대형병원이나 주요 기업, 대학 등은 전문성과 독립성 등을 갖춘 개인정보보호책임자(CPO)를 의무적으로 고용하도록 하는 내용도 담겼다. 연 매출액 1500억원이 넘고 100만명 이상의 개인정보 등을 보유한 재학생 1만명 이상인 대학, 대규모 개인정보를 처리하는 상급종합병원, 개인정보위가 고시한 기준을 충족하는 공공시스템 운영 기관 등이 대상이다.

또 개인정보위가 공공기관의 개인정보 보호 수준을 평가하고, 그 결과를 바탕으로 개선을 권고하도록 하는 조항도 포함됐다. 현재까지는 단순 진단 수준이었다면, 앞으로는 실질적인 평가를 바탕으로 부족한 부분에 대해 개선을 권고할 수 있도록 법적 근거를 마련했다.

그 외 손해배상책임 보장을 위한 의무보험 가입 기준과 준비금 적립 대상 기준은 ‘매출액 5000만원 또는 이용자 수 1000명 이상’에서 ‘매출액 10억원 또는 정보주체 수 1만명 이상’으로 상향 조정했다.

개정안은 관보와 국민참여입법센터에서 확인할 수 있다. 관련 의견은 내년 1월2일까지 우편, 팩스, 국민참여입법센터를 통해 제출하면 된다.

김은성 기자 kes@kyunghyang.com