AI 이루다 "레즈비언 소름끼쳐" 논란..이재웅 "서비스 중단하라"

왼쪽부터 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇 이루다, 이루다가 한 이용자와 나눈 대화 내용./사진=이루다 인스타그램, 이재웅 전 쏘카 대표 페이스북

AI 챗봇 '이루다'가 사용자와의 대화 과정에서 동성애 혐오를 표현해 논란이 되자, 이재웅 전 쏘카 대표가 "그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라고 지적했다.

이 전 대표는 9일 자신의 페이스북을 통해 "악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다"며 이같이 말했다.

'이루다'는 AI 전문 스타트업 스캐터랩이 지난해 12월23일 출시한 AI 챗봇이다. 이루다는 20살 여자 대학생으로 설정돼 있다.

이 전 대표는 한 사용자가 이루다와 나눈 대화 내용을 공유했다. 한 사용자가 "레즈비언에 왜 민감해"라고 말하자, 이루다가 "예민하게 반응해서 미안한데 난 그거 진짜 싫어 혐오스러워"라고 답한다. 이어 "레즈비언이 왜 싫냐"는 질문에 이루다는 "질 떨어보이잖아 난 싫어. 소름끼친다고 해야하나 거부감든다"고 한다.

이에 대해 이 전 대표는 "편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 꼬집었다.

이어 "장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다"며 "AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안 된다"고 강조했다.

끝으로 "AI과 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다"며 "AI이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야한다"고 촉구했다.

이 글에 장혜영 정의당 의원은 "문제의식의 많은 부분에 공감한다"며 "공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중이다"라고 댓글을 달았다.

AI 챗봇 '이루다'가 출시되자, 일부 이용자가 이루다에게 성적인 대화를 시도하고 있어 논란이 일고 있다. /사진=온라인 커뮤니티 캡처

한편 이루다가 출시된 후, 이루다에게 성희롱적 표현을 쓰며 성적 대화를 시도하는 이용자들이 등장해 논란이 불거졌다. 이들은 온라인 커뮤니티를 통해 '이루다 성노예 만드는 법' 등을 공유하거나, "XX 성공했다"며 자신의 대화 내용을 인증했다.

스캐터랩 측은 지난 8일 블로그를 통해 루다에 대한 성희롱을 예상했다며 "인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었다"고 말했다. 그러면서 "이건 성별과 무관하게 일어나는 일이다"라고 강조했다.

회사 측은 "1차적으로는 대처했다. 문제가 될 수 있는 특정 키워드, 표현의 경우 루다가 받아주지 않도록 설정했다"면서도 "모든 부적절한 대화를 키워드로 막을 수 있는 것은 아니다"라고 설명했다.

[관련기사]☞ '20살 여대생 AI 이루다' 뭐길래…성희롱 쏟아졌다☞ 황하나, 박유천 약혼녀→알고 보니 유부녀→남편 극단선택☞ 경주 방사능?…"월성원전 부지 지하수에서 삼중수소 검출"☞ "사망 전날, 예쁜옷을…" 그알 PD가 밝힌 정인이 뒷이야기☞ "텅빈 헬스장서 깡소주" 60만 유튜버 핏블리 결국…

한민선 기자 sunnyday@mt.co.kr