이혼당하고 목숨 끊고, 내각은 총사퇴…네덜란드서 AI가 벌인 짓

네덜란드 헤이그에 사는 싱글맘 자넷 라메사(38)는 7년 전 세무서로부터 청천벽력 같은 통지문을 받았다. "아동수당을 부당하게 받았으니 4만 유로(약 5730만원)를 토해내라"는 내용이었다.

깜짝 놀란 그는 세무서에 설명을 요구했지만, 상대조차 해주지 않았다. 하루아침에 '부정수급자'가 된 라메사는 빚을 질 수 밖에 없었다. 거액의 빚이 있는 직원은 고용불가하다는 회사 방침 때문에 일자리도 잃게됐다. 설상가상으로 2019년 당국은 "라메사의 경제 상황이 육아에 부적합하다"며 아들의 양육권을 전 남편에게 넘겼다.

네덜란드에서 AI 분석으로 아동수당 부정수급자를 통보했다가 오류가 있었단 사실이 뒤늦게 밝혀지며 사회 문제로 비화한 사건이 있었다. 이 일로 많은 이들이 빚을 졌다. 자녀 양육권을 박탈당한 뒤 절망해 목숨을 끊은 사례도 나왔다. 사진 앰네스티 홈페이지 캡처

사실 라메사는 부정 수급자가 아니었다. 앞서 네덜란드 세무당국이 과거 세무 데이터·국적 등 개인정보를 기반으로 인공지능(AI)에 분석을 맡겼고, 이를 토대로 2012~2019년 받은 아동 수당을 환급하라고 수천 가구에 명령했다.

그런데 국정 감사결과 AI 분석에 오류가 있어 정당한 수급자를 부정수급자로 잘못 낙인찍은 사실이 드러났다. 라메사 같은 피해자가 약 2만6000명에 이르렀다.

2023년 9월 7일 네덜란드 총리인 마르크 뤼터(앞줄 가운데)가 AI의 잘못된 판단으로 아동수당 부정수급자로 몰린 이들과 관련한 청문회에서 증언을 하기에 앞서 선서를 하고 있다. 2021년 내각 총사퇴를 했지만 총선에서 그가 이끄는 자유민주국민당이 4연속 원내 1당이 되면서 기사회생했다. EPA=연합뉴스

일본 아사히신문은 "AI가 사람의 존엄까지 빼앗는 일이 현실에서 일어난 경우"라며 네덜란드 아동수당 관련 피해자들을 만나 이들의 현황을 최근 보도했다. 이 사건으로 많은 네덜란드인이 수만 유로의 빚을 졌다. 경제적 부담을 견디다 못해 이혼한 부부도 있었다. 자녀 양육권을 박탈당한 뒤 절망해 스스로 목숨을 끊은 사례도 나왔다.

━

세무당국 AI 분석이 화근

사태가 커지자 2021년 네덜란드 정부는 아동수당 부정수급자 통보 결정이 잘못됐음을 시인하며 내각이 총사퇴했다. AFP·로이터통신에 따르면 마르크 뤼터 네덜란드 총리는 "부당한 대우를 받은 모든 부모에게 정의가 돌아가길 바란다"며 사과했다. 네덜란드 국회 조사위원회가 2020년 말 발표한 보고서에 따르면 세무당국이 아동수당 부정수급자로 낙인찍은 이들 중 94%는 AI가 판단을 잘못 내린 것으로 드러났다.

2021년 네덜란드 정부는 아동수당 부정수급자 통보 결정이 잘못됐음을 시인하며 내각 총사퇴를 단행했다. 마르크 뤼터 네덜란드 총리(사진)는 "부당한 대우를 받은 모든 부모에게 정의가 돌아가길 바란다"며 사과했다. AP=연합뉴스

국회조사위에 따르면 세무당국은 부정수급을 확인하기 위해 과거 데이터를 바탕으로 부정수급자의 패턴을 학습하는 AI를 도입했다. 그런데 신청과정에서 사소한 기재 실수를 했거나 보육 시설 측이 기재를 잘못한 경우에도 부모가 아동수당 전액을 반납해야 했다. 돈을 반환하지 않으면 다음 해에 수당을 받지 못하는 제도까지 겹치며 피해가 확대했다.

당시 정부는 피해자 1명당 3만 유로(약 4200만원)의 보상금을 지급하겠다고 발표했다. 그런데 워낙 피해 규모가 크고 피해자 수도 많아 보상 절차는 2년이 지난 지금도 계속되고 있다. 아사히 신문에 따르면 피해자들은 세무당국에 데이터를 투명하게 공개하고, 그간 잘못된 부정 수급자 '낙인' 때문에 누릴 수 없었던 행정 서비스 지원을 재개해달라고 요구하고 있다.

자넷 라메사는 부정수급자로 몰렸던 일을 계기로 정치에 관심을 갖게 돼 지난해부터 헤이그 시의회 의원을 맡고 있다. 아동수당 사건 관련 피해자를 돕는 일에도 적극 나서고 있다. 사진 페이스북 캡처

━

피해자 "2년 지난 지금도 행정서비스 못 받아"

피해자들의 상처는 당국의 공식 사과가 있은 뒤 2년이 지난 현재도 아물지 않고 있다. 로테르담에서 진행성 난치병을 가진 장남(17), 장녀(12)와 사는 센시밀리아 슈헨더린(38)도 피해자다. 그는 몇 년 전 "부정수급자에 해당하니 8000유로(약 1145만원)를 도로 반납하라"는 세무당국의 연락을 받았다. 그 뒤, 주택수당·건강보험 등 원래대로라면 당연히 받을 수 있는 공적 서비스를 받지 못하게 돼 생활이 쪼들리게 됐다.

그 와중에 병이 악화해 걷지 못하게 된 장남의 통학을 위해 행정 당국에 휠체어를 요청했지만 거절당했다. 슈헨더린 본인은 난치병인 크론병이 악화해 몸무게가 34㎏까지 줄면서 입원도 했다. 슈헨더린은 아사히에 "아동수당 문제로 고통받던 동안, 아들의 병이 악화해 자유롭게 걸을 수 있는 시간을 놓쳤다"고 한탄했다.

슈헨더린은 피해자로 인정돼 정부의 사과 편지를 받았다. 하지만 그는 "세무당국 기록이 아직도 공개되지 않은 탓에, 지금도 왜 부정수급자로 분류됐는지 정확한 이유를 모른다"며 답답함을 토로했다. 한 번 부정수급자로 분류된 후엔 다양한 행정 서비스도 아직까지 받지 못하고 있다. 피해자를 지원하는 크리스 센트 변호사(58)는 "슈헨더린은 '보이지 않는 엑스(X) 표시가 (주홍글씨처럼) 내 이름에 붙어 있는 것 같다'고 말했다"고 전했다.

━

EU "태생 근거로 부정수급 판단은 불법 소지"

특히 일부 부모들은 이중국적자이거나 아동의 조부모가 네덜란드 태생이 아니라는 이유로 조사 대상이 됐다는 사실이 알려지면서 제도적 인종차별이라는 비판도 제기됐다. 현지 언론은 저소득·이민자 등 사회적 취약 계층 부모들이 대상이었다는 분석을 내놨다.

정보공개 청구를 통해 자신의 기록을 받아본 라메사는 아사히신문에 "학력, (조)부모의 출생지, 거주지역 등도 AI가 부정수급자라는 판단을 내릴 때 지표에 사용됐다"고 전했다. 라메사는 헤이그 태생의 네덜란드인이지만, 그의 부모는 모두 네덜란드 식민지였던 남미국가 수리남 출신으로 인도계였다. 세무 직원들끼리 라메사를 "인디언 케이스"라고 불렀다는 사실도 나중에 알게 됐다.

인권단체인 엠네스티 인터내셔널의 기술인권수석 고문인 메렐 코닝은 성명에서 "인종 프로파일링에 기반한 외국인 혐오 알고리즘 탓에 수 천 명의 삶이 망가졌다"면서 "잠재적인 범죄·사기 용의자를 찾기 위해 알고리즘을 도입할 때 국적·민족 관련 데이터 사용을 금지해야 한다"고 촉구했다.

컴퓨터 커뮤니케이션 과학 교수, 사회보장법 전공 교수 등이 네덜란드 정부의 '아동 수당 스캔들'과 관련해 열린 공청회에 참석한 모습. EPA=연합뉴스

유럽위원회는 2021년 내놓은 의견서에서 "국적을 판단 지표로 사용한 행위는 네덜란드나 유럽연합(EU)의 법률에 반한다고 생각된다"고 지적했다.

라메사는 부정수급자로 몰렸던 일을 계기로 정치에 관심을 갖게 돼 지난해부터 헤이그 시의회 의원을 맡고 있다. 자신과 같은 피해자를 돕는 일에 나서기 위해서다. 그는 이 일 때문에 아들(17)을 어린 시절 풍족하게 키우지 못했고, 친모와 헤어지는 경험까지 하게 만들어 죄스러운 마음뿐이다. 라메사는 "네덜란드 같은 (선진)국가에서 이런 일이 일어나게 된 경위를 알고 싶다"고 강조했다.

니콜 테민크 하원의원은 "지나치게 AI에 의지하고, AI 검증을 게을리해 발생한 일"이라며 "AI는 잘못 사용하게 되면 사람을 해칠 수 있다"고 꼬집었다. 사진 네덜란드 사회당 홈페이지 캡처

피해자들을 지원하는 네덜란드 사회당의 니콜 테민크 하원의원(36)은 아사히신문에 "지나치게 AI에 의지하고, AI 검증을 게을리해 발생한 일"이라며 "AI는 잘못 사용하게 되면 사람을 해칠 수 있다"고 꼬집었다.

서유진 기자 suh.youjin@joongang.co.kr