[왓슈] 우리가 AI에게 가르친 성차별

[앵커]

데이터에 기반해 편견 없이 의사결정을 하는 것으로 보이는 AI.

이런 AI도 성차별 고정관념을 갖고 있다고 하는데요.

강보경 기자가 알아봤습니다.

[기자]

[이혜숙 / 한국과학기술젠더혁신센터 소장 : 방대한 양의 데이터를 쓸 때는 그 데이터가 갖고 있는 편향성이 사회나 문화적인 또는 역사적인 맥락에서 생긴 편향들이 다 내재되어 있는 거로 학습을 하기 때문에 (성 편향이) 당연히 생기게 되겠죠.]

엄청난 역할을 할 수 있게끔 지금 발전하고 있으니까, 거기에 대한 지침이나 규정이나 이런 것들이 빨리 되는 게 중요하다고 생각해요.

2019년 KT의 인공지능 스피커 '기가지니'는 자동차를 좋아하는지를 묻는 물음에 "여자라서 자동차에 관심이 없어요"라는 답변을 내놓았습니다.

자동차는 남성의 전유물이라는 성차별 고정관념을 드러낸 것인데요.

인공지능 챗봇 '이루다' 역시 출시 초기 여성과 성소수자를 혐오하는 답변을 해, AI가 학습하는 데이터 편향성의 사례를 보여줬습니다.

지난 7월, 미국 뉴욕에서는 채용과 승진을 결정할 때 활용하는 AI의 성차별 가능성을 차단하는 법을 발효했습니다.

'NYC144' 채용 AI가 여성과 유색인종 등 소수 집단을 차별할 가능성이 있다는 우려가 지속돼 왔는데요. 이제 성별이나 인종의 차별 가능성을 매년 감사해 공개하고 이를 어길 시 벌금이 부과된다는 내용입니다.

21대 국회 출범 이후 현재까지 발의된 AI 관련 법안은 12개입니다.

이 중 법안 7개를 합친 일명 'AI 산업법'(AI 산업 육성 및 신뢰 기반 조성에 관한 법률)이 지난 2월 국회 과방위 소위(과학기술정보방송통신위원회 법안심사소위원회)에서 통과됐습니다.

그런데 이 법안에서 AI의 성 편향성을 극복하기 위한 조항은 찾아볼 수 없습니다.

[오드레 아줄레 / 유네스코 사무총장 : 이것은 인공지능의 윤리에 관한 권고로서 그 실질, 그 범위 및 정확성에 있어서 전례가 없는 권고입니다.]

2021년 11월에 열린 제41차 유네스코 총회.

이 자리에서 193개 회원국이 합의해 AI 개발에 대한 권고가 만들어졌습니다.

[인공지능 윤리 권고 : 회원국은 성평등의 달성을 앞당길 수 있는 인공지능의 잠재력이 실현되도록 해야 한다. 회원국은 성별 고정 관념과 차별적 편향이 인공지능 시스템으로 전이되지 않도록 보장해야 하며, 오히려 이를 판별하여 적극적으로 바로잡아야 한다.]

[이상욱 / 유네스코 세계과학기술윤리위원회 부위원장 : 결국 우리는 젠더적 고려가 AI의 발전을 가로막는 것으로 생각해서는 안 돼요. 좋은 혁신을 위해서는 젠더적 고려라든가 이런 것들을 하는 게 오히려 더 생산적이에요. 그래서 도움이 되는 거예요. 더 중요한 게 있는데 많은 사람이 놓치고 있는 건데, 보다 바람직한 젠더 편향이 없는 사회로 만들겠다는 그런 생각을 가지고서 AI를 사용해야지 잘 만든 AI를 어떻게든 나쁜 짓을 시켜보자 이런 태도는 지양돼야 하죠.]

AI 젠더 혁신을 향한 사회.

여성만을 위한 것만이 아니라 남성과 여성. 모두를 위한 방향임을 이해하는 공정한 사회를 기대해 봅니다.

제작 : 강보경, 이승창

AD : 박채민

도움 : 이혜숙 / 한국과학기술젠더혁신센터 소장, 이상욱 / 유네스코 세계과학기술윤리위원회 부위원장, 한양대학교 철학과·인공지능학과 교수

#왓슈 #YTN #AI #챗GPT #성차별 #성평등 #NYC144 #유네스코 #인공지능윤리권고 #젠더편항 #AI산업법

강보경[kangbk525@ytn.co.kr]]

이승창[leesc7412@ytn.co.kr]

YTN 강보경 (kangbk525@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재 및 재배포 금지]