"AI 면접관은 거부합니다"…우려 반 기대 반

2024년 3월 인공지능 기반 자동화 결정 대응권 첫발
스타트업 "설명 범위 설정 어려워"…보안업계 '환영'

ⓒ News1 DB

(서울=뉴스1) 오현주 기자 = 내년 3월 시행되는 인공지능(AI) 기반 자동화 결정에 대한 대응권 도입을 두고 정보기술(IT) 업계의 반응이 엇갈린다.

스타트업들은 규정이 시행돼도 실효성이 없을 것이라고 지적한다. 이같은 규제가 개발 업황 위축으로 이어질 수 있다는 우려도 있다.

반면 보안업계는 설명 가능한 AI 시대를 뒷받침하는 제도적 기반의 시작점으로 본다.

18일 개인정보보위원회에 따르면 내년 시행이 예정된 개인정보보호법 개정안에 '자동화된 결정에 대한 정보 주체의 권리'(제37조의 2항)가 추가됐다.

2024년 3월15일 이후 시행되는 규정이다. 핵심은 크게 두 가지다.

먼저 AI처럼 완전 자동화 시스템으로 개인정보를 처리해 의사결정이 이뤄질 경우 개인정보주체가 해당 결정을 거부할 수 있다.

또 개인이 자동화된 의사결정에 설명을 요구할 수 있다.

예를 들어 취업 준비생은 AI 기반 면접 자체를 거부할 수 있다. 수용하더라도 면접에서 탈락했을 경우 구체적인 사유를 해당 서비스 제공 기업에 말해달라고 요청할 수 있다.

AI 업계는 개정안 취지는 납득하지만 효율성은 별개라는 입장이다.

AI 스타트업 관계자는 "개정안에 따르면 개인이 AI 면접을 거부하면 다른 방식으로 면접을 봐야한다"며 "그런데 AI 면접을 본 사람과 안 본 사람의 합격 기준을 따로 잡기도 어렵고 역차별을 우려해 거부권을 알면서도 활용하지 않을 수 있다"고 말했다.

다른 업계 관계자는 "AI 자동 결정이 수천억개의 파라미터(매개변수) 기반 딥러닝(심층학습)을 통해 이뤄지는 경우가 있다"며 "모든 결정 사안에 분명한 이유를 설명하기 어려워 AI 스타트업 입장에서는 큰 비용 부담이 될 수 있다"고 말했다.

설명 범위가 어디까지인지 명확한 가이드라인이 없다는 지적도 있다. 너무 광범위하면 기업이 감당해야 할 비용은 기하급수적으로 늘어난다. 일반 기업이 이같은 한계를 고려해 AI 솔루션을 사용하지 않으면 관련 업황 위축으로 이어질 가능성이 있다.

반면 보안업계에서는 자동화 결정 대응권 시행이 설명 가능한 AI 윤리의 일환이라고 본다.

보안업계 관계자는 "미국에서도 AI의 잘못된 결정으로 인한 피해에 대한 책임 소재를 묻는 '알고리즘 책임법' 시행 논의가 이뤄졌다"며 "이는 글로벌 트렌드"라고 설명했다.

woobi123@news1.kr