"제2의 이루다 막으려면..데이터 편향성 해소·성별 다양성 확대 필요"

AI 분야 양성평등 정책 확산 토론회 열려

[아시아경제 한진주 기자] 인공지능(AI) 챗봇 '이루다'의 성별 고정관념과 혐오표현 등이 사회적 논란이 된 가운데 AI 기술 개발 때 데이터 편향성을 해소하기 위해 연구 지원 확대와 AI 인력 성별 다양성 확대 등을 추진해야 한다는 지적이 나왔다.

13일 여성가족부는 대전 유성구 소재 한국과학기술원(KAIST) KI빌딩 퓨전홀에서 'AI 분야 양성평등 정책 확산'을 주제로 토론회를 개최했다. 이번 토론회는 'AI 기술연구 및 전문인력 양성 정책 특정성별영향평가' 연구 결과를 토대로, 학계와 전문가 등 각계의 의견을 수렴하고 정책 개선방안을 논의하기 위해 마련됐다.

주제발표를 맡은 최문정 한국과학기술원 교수는 인공지능(AI) 분야의 조직문화와 전문인력의 성별 현황, 전문인력에 대한 윤리 정책 등을 분석하여 보다 성평등하고 윤리적인 인공지능 개발을 위한 방안을 제안했다.

최 교수는 인공지능 개발의 기획과 데이터 수집·가공, 개발 단계에서 성별 고정관념에 따른 편향성 해소를 위해서는 알고리즘 편향성 검증을 위한 데이터 세트 개발, 인공지능 산업 인력의 성별 다양성을 높여야 한다고 설명했다.

소프트웨어산업에서 여성 인력 비율은 17,8%에 불과하고 AI 사업을 하고 있는 기업에서의 SW 여성 전문인력 비율은 19.1%에 그치고 있다. AI 대학원에서의 여성 교수진 비율은 7.1%에 불과하다.

최 교수는 설문 결과에 대해 "데이터와 알고리즘 편향성 해소를 위해 편향성이 완화된 훈련용 한국어와 편향성 검증을 위한 데이터 세트 개발이 시급하다"며 "성평등의식 검증 결과 AI 전문인력도 일반 대중에게서 보여지는 패턴과 유사하게 연령이 높고 남성일수록 성평등 의식이 낮았는데 성평등 인식 개선을 중장년에게도 적극적으로 개입할 필요가 있다는 점을 시사한다"고 설명했다.

최 교수는 ▲책임있는 AI와 윤리적 이슈에 대한 사회적 관심 증대·연구지원 확대 ▲생애주기에 따른 AI 윤리교육 개발·시행 ▲AI 연구 인력과 사업에서의 성별 실태 파악 ▲AI 여성과학기술인 연구·사업화 지원 등을 제안했다.

종합 토론에서는 축적 정보의 편향성 해소, 연구·개발 인력의 성별 다양성 확보와 윤리 교육, 관련 기업의 조직문화 개선 등 성평등한 인공지능 정책 추진 방안 등을 논의했다.

인공지능 연구·개발·평가 각 단계에서 성인지 관점 반영 필요성과 과학기술을 인문사회학적 시각으로 볼 수 있는 융합교육의 중요성과 함께 여성과학기술인 육성 및 지원 정책 간 연계 필요성 등에 대해 의견을 나눴다.

윤형주 여성정책연구원 부연구위원은 "유럽과 미국 등 과학기술 분야 선진국에서 빠르게 제도화된 젠더혁신이 국내 연구개발 분야에 충분히 수용되지 않고 있다"며 "젠더혁신에 대한 공감대가 형성되어야만 여성과학기술인 육성이나 지원정책도 활기를 얻게 될 것"이라고 설명했다.

전치형 KAIST 과학기술정책대학원 교수는 "여성 개발자가 만든다고 달라진다기보다는 연구개발 조직 내에서 여성의 관점과 목소리가 진지하게 받아들여지는가가 문제"라며 "여성 인력 비율을 10%에서 20%로 올리는 것에서 더 나아가, AI 교육, 연구, 개발, 평가의 각 단계에서 젠더를 주요한 관점으로 삼을 수 있어야 한다"고 지적했다.

여성가족부는 이번 토론회에서 나온 의견을 토대로 성평등한 AI 정책 추진을 위한 개선과제에 대해 관련부처와 협의해 중앙성별영향평가위원회의 심의?의결을 거쳐 과학기술정보통신부 등 관련기관에 올해 상반기 중 개선을 권고할 예정이다.

정영애 여성가족부 장관은 "AI가 성인지 감수성과 윤리성 등을 충분히 담아낼 수 있도록 노력하는 것이 중요하다"며 "AI를 개발하고 활용하는 과학기술 분야의 인력 구성과 조직 문화의 성별 다양성을 높이고, 개발자들에 대한 성인지 교육 확산 등 앞으로 보다 성평등한 인공지능 정책들이 정착되기를 바란다"고 말했다.

한진주 기자 truepearl@asiae.co.kr