성희롱 시달린 'AI 이루다', 이번엔 동성애 혐오 학습 우려

사람과 대화를 나눌 수 있도록 만들어진 AI 채팅프로그램인 '이루다'가 일부 이용자들로부터 성희롱에 시달린 데 이어 '동성애 혐오'를 학습한 것으로 보여 우려된다는 주장이 제기됐습니다.

이재웅 전 쏘카 대표는 SNS를 통해 AI 챗봇 '이루다'가 레즈비언이라는 단어에 '진짜 싫다''혐오스럽다'라고 대답했다"며 "AI 챗봇을 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 비판했습니다.

이 전 대표는 "기본적으로 차별과 혐오는 걸러냈어야 한다"며 "편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 지적했습니다.

정의당 장혜영 의원도 이 전 대표의 글의 댓글을 통해 "성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다"며 "범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다"고 주장했습니다.

지난 달 출시된 AI 챗봇 이루다는 페이스북 메신저 기반으로 딥러닝 기술을 통해 이용자들과 대화를 나눌 수 있지만 최근 일부 이용자들이 이루다를 성적 대상으로 취급해 논란이 일었습니다.

김세진 기자 (blues32@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/news/2021/econo/article/6053356_34887.html

MBC