"아직 설익은 AI, 약자인 취준생을 베타테스트 하고 있다"

[AI시대의 윤리학: ①권력자 AI]
장여경 정보인권연구소 상임이사 인터뷰

편집자주
인공지능(AI) 발전 속도가 무섭도록 빠릅니다. 그러나 이렇게 눈부시게 발전하는 AI를 ‘어떻게 쓸지’를 두고 아직 사회적 합의와 공감대가 형성되지 않았습니다. 인간의 운명과 목숨을 결정하는 일에 AI를 활용할 수 있을까요? AI 전성시대에 인간이 마주한 딜레마, 그 해결의 실마리를 함께 고민하기 위해 AI 면접 업계를 주도하는 이영복 제네시스랩 대표와, AI 기술 통제를 강조하는 장여경 정보인권연구소 상임이사의 얘기를 각각 들어봅니다.

장여경 정보인권연구소 상임이사

장여경 정보인권연구소 상임이사는 PC통신 시절부터 개인정보와 정보주체 권리의 보호를 위해 뛰어 온 시민운동가다. 최근에는 인공지능(AI) 면접을 운용한 공공기관을 상대로 정보공개청구를 진행하고, 법무부가 출입국 심사에서 확보한 얼굴 사진 1억7,000만건을 동의 없이 활용해 개발한 AI 문제에 대해 헌법심판 청구를 기획하는 등 AI 규제 목소리를 꾸준히 내고 있다.

5일 서울 서대문구 정보인권연구소에서 진행된 인터뷰에서, 그는 지속적으로 '투명성'을 강조했다. "채용시장이 아직 완벽하지 않은 AI의 시험무대가 됐다"면서 "그 대상자들은 사회적 약자인 취업준비생"이라고 지적했다.

그는 채용 AI처럼 인간에 직접 영향을 끼치는 AI는 독립된 제3기관으로부터 사전 신뢰성 검증 또는 외부감사를 받는 체계가 마련돼야 한다고 제안했다. 특히 △공공기관의 채용 절차 △AI에 의해 합격·불합격이 정해지는 경우 등을 우선적으로 검증해야 한다고 강조했다.

다음은 장 상임이사와 주고받은 일문일답.

-2020년 공공기관을 상대로 진행했던 정보공개 거부처분 취소소송은 어떻게 됐나요?

"채용 AI은 유럽연합 등 여러 나라에서 '고위험군 AI'(개인의 안전에 위협이 되거나 생계에 영향을 주는 AI)로 분류하고 있어요. 사회적 책무가 있는 공공기관이 AI 채용을 진행하니 △채용 절차의 공정성 △개인정보 침해 여부 △AI의 편향성 문제 등이 어떻게 관리되는지 확인하려는 의도였습니다. 소송을 했더니, 공공기관들은 AI 채용에서 제대로 검증이나 관리를 하지 않고 있었어요. 어떤 곳은 ①AI 면접시 어떤 질문을 지원자에게 할 것인지 검토를 하지 않았고 ②최종 전형을 'AI 면접+AI 자기소개서 평가'로 구성했으며 ③채용 결정권자에게 AI 면접과 관련한 자료도 전혀 제공하지 않았어요. 채용 일체를 사기업 AI 프로그램에 일임했다고 봐도 과언이 아니었죠."

-AI 면접에도 긍정적인 면이 있지 않나요?

"채용 AI 자체를 반대하는 게 아닙니다. 공정성이 문제가 돼 AI 채용을 도입했다면, AI 채용은 공정성을 담보해야 한다는 것이죠. 하지만 현재의 채용 AI는 별도의 절차 없이 도입됐어요. AI가 공정한 결정을 내리고 있는지, 혹시 편향적 결정을 내리지는 않는지, 객관적 검증을 거치지 않았어요. 2020년 정보공개 청구 당시 공공기관들이 그랬고, 지금도 상황은 크게 달라지지 않았습니다."

-AI 채용 프로그램을 제공하는 기업들을 취재해 보니, 나름의 윤리 가이드라인을 지키고 있었습니다. 정부 검증을 받은 기업도 있고, 내용도 충실해 보이던데요.

"평가항목 문제가 아니라 절차와 방식의 문제죠. (업체가 스스로 하는) 자율점검이 합법성이나 정보주체 피해 방지를 보장하진 않습니다. 이루다(AI 챗봇) 사태에서도 당시 개발사는 개인정보를 다루는 자신의 방식이 합법이라고 여겼어요. 그런데 개인정보보호위원회 조사 결과 1억 원의 과징금·과태료가 나올 정도로 중대한 위법 행위가 있었잖아요.

아무것도 안 하는 것보다 자체 평가라도 하는 게 낫지만, 그것만으론 부족하죠. 개발자나 이해관계자가 내리는 평가는 결국 자문자답인 셈이잖아요. 아무리 선의에서 접근하는 개발자라도 보지 못하는 관점이 있을 수 있어요. 모두가 인정할 만한 제3기관이 독립적으로 검증해야 합니다."

-AI 기업에선 고객사에게 투명하게 공개된다는 점을 강조하던데요.

"AI의 '설명 가능성'의 주요 취지는 (고객사가 아니라) AI 적용 대상이 되는 사람들에게 충실하게 설명해 주라는 것이죠. 설명 요구나 이의제기는 일반 채용에서도 보장(인사혁신처 공정채용 가이드라인)된 지원자의 권리입니다. AI 도구를 사용한다는 이유로 기존 권리가 위축되면 안 됩니다.

고객사에게 투명하게 공개할 게 아니라 지원자들에게 투명하게 공개해야 하는 거죠. 쉽게 말하면 지원자가 왜 불합격했는지를 지원자에게 설명할 수 있어야 합니다. 떨어진 이유를 설명하는데 '당신의 야망은 B등급이다' 'AI가 그렇게 평가했다'고 하는 것은 설명 의무를 다했다고 볼 수 없어요. AI 개발에서 중요한 것은 그 AI의 대상이 되는 사람들(이 경우엔 입사지원자)입니다. 그들의 의견과, 그들이 받는 영향까지 고려한 검증이 이뤄져야 합니다."

-일반인들에게까지 모두 공개하라고 한다면, AI기업 쪽에선 영업비밀이라 싫어하지 않을까요?

"미국 휴스턴 연방지법은 알고리즘 평가로 해촉된 교사의 소송에서 '공공기관은 영업비밀이 적용되는 AI를 사용하지 말라'고 2017년 결정했습니다. △기업의 영업비밀도 지켜야 하고 △헌법상 적법절차의 원리에 따라 피해자의 설명요구·이의제기권도 지켜야 하니, 둘이 상충하지 않도록 공공기관의 AI 사용에 제한을 둬야 한다고 본 것이죠.

국내에서도 비슷한 합의를 이룰 수 있다고 봐요. 국민의 세금을 사용하고 국민을 대상으로 결정을 내리는 공공기관에겐 책무가 있습니다. 최소한 공공기관에서 사용하는 AI는 투명성이 먼저 담보야 하고 그전까지는 사용해선 안 됩니다."

-AI는 단지 추천할 뿐이고 최종 결정은 인간이 한다면, 부작용보다 이득이 많다고 볼 수 있지 않을까요?

"AI에게 합격 불합격을 100% 결정하게 한 채용보다는, AI 역할을 추천으로 한정하는 채용이 더 바람직할지도 모르죠. 다만 AI가 내놓은 결과는 현실에서 추천 이상의 효과를 가져옵니다.

미국 경찰이 사용하는 얼굴인식 카메라에도 이런 면이 있어요. AI가 흑인 용의자를 잘못 인식해 체포를 잘못한 사례가 속출했지만, 경찰관은 "내가 아니다"는 사람의 말 대신 AI를 믿고 반증 수집도 제대로 하지 않은 경우가 있습니다. 결국 AI라는 도구가 있으면 결정권자(사람)의 책임감은 무뎌지고, 의사결정이 AI에 종속될 수 있죠."

-자발적, 자율적 검증을 제3기관을 통해 의무화하면, 기업 경쟁력 측면에서 부정적인 효과를 가져오지 않을까요"

"하물며 텔레비전이나 냉장고도 성능검사를 받고 품질보증마크를 붙입니다. AI는 이미 우리 사회에서 매우 중요한 역할을 하고 있지만, 기업의 말만 믿고 사용하고 있어요. 객관적 검증 체계가 마련되는 것은 결과적으로는 시장에도 도움이 되는 방향이라고 생각합니다."

-특히 채용AI를 유심히 봐야 할 이유가 있을까요?

"AI가 번역을 하다 실수를 했다거나 챗GPT가 엉뚱한 답변을 내놓는 것이라면 웃고 넘길 수도 있습니다. 하지만 채용은 사람에 대한 굉장히 중요한 의사결정입니다. 이 정도 결정 권한을 갖는 AI라면 보다 많은 논의와 신중함이 필요합니다.

유독 채용 분야에서 AI가 광범위하게 도입된 것은 어쩌면 그 대상자들이 약자 입장에 있기 때문이라고 생각해요. 취업준비생은 쉽게 문제제기를 할 수 없고, 목소리를 낼 수도 없죠. 사람 면접관이 할 때도 혹시 다른 기업에 소문이라도 퍼질까봐 '왜 떨어졌는지' 설명을 요구할 수 없던 이들이, 개인정보보호법에 '설명을 요구할 권리'가 신설됐다고 해서 그 권리를 제대로 행사할 수 있을까요? 취업을 위해 어쩔 수 없이 동의한 수십만 건의 지원자 개인정보도 AI 개발에 불법적으로 사용되고 있을지 모릅니다. 이런 분야일수록, 시민단체나 언론이 목소리를 내야 합니다."

▶AI 면접관 앞에 선 인간... 알고리즘은 운명을 가르는 ‘권력자’

https://www.hankookilbo.com/News/Read/A2023041117060004881

▶'김치~' 미소론 어림 없어... AI 면접관은 조커의 웃음을 원한다

https://www.hankookilbo.com/News/Read/A2023041410060000321

▶"혈연·지연·학연 없는 AI 면접관, 사람보다 공정할 수 있죠"

https://www.hankookilbo.com/News/Read/A2023041213110005027

▶피고인 척 보면 미래 범죄 예측... AI가 판사되면 세상은 나아질까?

https://www.hankookilbo.com/News/Read/A2023041305390003045

글 싣는 순서
<AI 시대의 윤리학>

①운명을 좌우하는 ‘권력자 AI’
②인생을 지배하는 ‘절대자 AI’
③인간과 공존하는 ‘동반자 AI’

최동순 기자 dosool@hankookilbo.com
이현주 기자 memory@hankookilbo.com