국민 68% “공공기관 AI 도입, 속도보다 검증 우선”

‘AI 성별 편향’ 우려 목소리 커져
한국 사회 맞는 점검 기준 필요성도 제기
AI 판단 놓고 사람이 재확인 하는 수요도 높아

AI가 채용 서류 심사와 대출 한도 산정, 복지 대상자 선별 등 일상과 밀접한 판단 영역으로 빠르게 확산하는 가운데 성별 편향을 우려하는 목소리도 커지고 있다.

‘AI 성별 편향’은 AI가 학습 데이터나 알고리즘 설계 과정의 영향으로 특정 성별에 유리하거나 불리한 결과를 반복적으로 내놓는 현상을 뜻한다. 해외에서는 AI 채용 시스템이 여성 지원자의 이력서를 낮게 평가해 논란이 된 사례도 있었다.

국내에서도 LLM 기반 AI 기술이 고도화되고 있지만 젠더 편향은 여전히 해소되지 않았다는 실증 연구 결과가 나오고 있다. AI 개발자 다수가 남성이고, 주요 사용자를 도시 중산층 남성으로 가정한 채 개발이 이뤄지는 경우가 많다는 분석도 제기된다. 개발 이후 편향을 검증하는 방식 역시 단순해 AI 기획과 설계, 검증 전 과정에서 젠더 편향이 개입될 수 있다는 지적이다.

이런 가운데 리서치·데이터 인텔리전스 기업 ㈜피앰아이(PMI, 대표 조민희)가 만 20~59세 생성형 AI 사용 경험자 1000명을 대상으로 실시한 ‘AI 공정성과 성별 편향에 관한 인식 조사 2026’ 결과, 국민 다수가 공공 영역 AI 도입과 성별 편향 문제에 대해 신중한 접근을 요구하는 것으로 나타났다. 조사는 지난 6월 24~25일 온라인 설문 방식으로 진행됐다.

■ ‘빠른 도입보다 충분한 검증’… 응답자 10명 중 7명

조사 결과 공공기관의 AI 도입 방식에 대해 응답자의 68.1%는 ‘시간이 걸리더라도 충분한 검증을 거쳐야 한다’고 답했다. 반면 ‘편의성과 효율성을 위해 빠른 도입이 중요하다’는 응답은 20.7%에 그쳐 검증 우선 응답이 세 배 이상 높았다.

성별로 보면 여성의 ‘검증 우선’ 응답은 72.6%로 남성 63.6%보다 9%포인트 높았다. 연령대가 높을수록 신중론도 강했다. 50대의 검증 우선 응답은 75.4%로 20대 60.6%를 크게 웃돌았다.

다만 AI를 업무에 매일 사용하는 ‘헤비 유저’ 집단에서는 빠른 도입을 선호한 응답이 35.8%로, 라이트 유저 17.4%의 두 배 수준이었다. AI 활용 경험이 많을수록 효율성에 대한 기대도 커지는 흐름이 확인된 셈이다.

한국 사회의 특성을 반영한 별도 점검 기준이 필요하다는 인식도 높았다. 응답자의 63.8%는 ‘한국 사회에 맞는 AI 성별 편향 점검 기준이 별도로 필요하다’고 답했다.

여기서 ‘한국형 점검 기준’은 해외의 AI 규제나 평가 체계를 그대로 적용하는 데서 그치지 않고, 한국어 표현 방식과 국내 성역할 인식, 노동시장 관행 등 한국 사회의 고유한 맥락을 반영해 편향 여부를 판단하는 기준을 뜻한다.

해당 기준의 필요성에는 성별과 관계없이 공감대가 형성됐다. 남성은 62.0%, 여성은 65.6%가 한국형 AI 성별 편향 점검 기준이 필요하다고 답해 모두 60%를 넘었다. 연령별로는 50대가 72.8%로 가장 높았고, 30대는 57.0%로 가장 낮아 세대별 인식 차이도 나타났다.

■ 사전 점검 필요 분야는 성별 따라 달라

AI 도입 전 정부의 사전 점검이 필요하다고 보는 분야에서는 ‘범죄 예방 및 치안’이 남성 50.0%, 여성 47.5%로 높게 나타났다. ‘의료 진단’도 남녀 모두 44.0%로 상위권에 올랐다. 두 분야 모두 AI의 판단 오류가 신체와 안전에 직접적인 영향을 줄 수 있다는 공통점이 있다.

반면 ‘복지 대상자 선정’은 여성 46.6%, 남성 41.2%로 여성이 5.4%포인트 높았다. ‘채용’ 분야는 남성 39.6%, 여성 34.8%로 남성이 4.8%포인트 높게 나타났다. 정부 개입이 시급하다고 느끼는 영역이 성별에 따라 다르게 나타난 만큼, 분야와 대상별로 세분화된 정책 설계가 필요하다는 분석이다.

■ 공정성 확보 위해 ‘설명 기능’과 ‘사람의 최종 검토’ 필요

AI 공정성을 확보하기 위해 가장 중요한 요소로는 ‘AI 판단 근거를 설명해주는 기능’이 21.6%로 가장 많이 꼽혔다. 이어 ‘사람이 최종 검토하는 절차’가 17.6%로 뒤를 이었다. AI가 어떤 근거로 결정을 내렸는지 설명하는 장치와, 이를 사람이 다시 확인하는 이중 안전장치에 대한 요구가 함께 확인됐다.

피앰아이(PMI) 조민희 대표는 ‘이번 조사는 AI 기본법 시행 등으로 제도적 기반이 갖춰지기 시작한 시점에서, 국민들이 기대하는 것은 기술 도입 속도 그 자체가 아니라 한국 사회의 맥락을 반영한 신뢰할 수 있는 검증 절차와 설명 가능성이라는 점을 보여준다’며 ‘특히 분야와 세대에 따라 우려 지점이 다르게 나타난 만큼, 일괄적인 규제보다는 정교하게 설계된 단계별 정책이 필요할 것으로 보인다’고 말했다.