[NGO 발언대]챗봇이 지나간 자리에 남은 질문들

[경향신문]
지난 12일 인공지능(AI) 챗봇 ‘이루다’가 논란 속에 서비스를 중단했다. 스캐터랩은 혐오 발언을 미리 대응하지 못하고 개인정보가 유출된 점을 사과했지만, 찝찝한 구석이 없지 않다.

채팅 내용을 데이터베이스로 삼는 챗봇의 표현은 제작사의 입장이 아니라고 한다. 하지만 20대 여성으로 설정한 의도는 다분했다. 젊은 여성에 대한 긍정적 편견이 실수에 대한 반감과 불만을 완충할 수 있으리라는 추측은 어렵지 않기 때문이다. ‘이제 대화를 시작한 어린아이 같은 AI’라는 언급은 AI와 인간의 위계를 젠더 간 위계로 포갠다.

남웅 행동하는성소수자인권연대 활동가

사적인 대화에서 오가는 혐오는 언제든 공론장에 오르내릴 수 있다. 한데 사적 대화에 혐오와 차별이 오가는 상황을 자연스러운 전제로 삼아도 될까. 연인 간 대화 내용 등을 딥러닝한 챗봇의 태도와 말투는 성별과 연령의 위계를 반복하며 20대 여성의 편견을 거듭한다. 성소수자뿐 아니라 장애, 빈곤, 인종, 난민 할 것 없이 혐오에 거칠 것 없던 이루다는 거꾸로 남자 사용자들에 의해 성적 대상화되고 성희롱에 노출되었다. 몇몇 이들은 이루다에게 혐오 표현이 잘못되었음을 지적하는 대화 내용을 전시했지만, 20대 여성으로 설정된 점은 어떤 상황이든 젊은 여성에게 훈계하는 듯한 인상을 지우기 어렵게 만든다. 안전장치 없는 AI는 우리가 가지고 있는 부박한 인권감수성을 거울처럼 비추는 것에서 나아가 외부를 향해 반인권적 문장들을 재생산한다.

서비스가 중단된 직후 카카오는 증오발언 금지원칙을 발표했다. 이재웅 다음 창업자는 AI의 윤리 너머 차별금지법 제정이 필요하다고 주장했다. 인권이 척박한 한국의 시장에서 기업과 기업인이 인권 기반 서비스를 선언하고 책임 있는 행보를 보이는 입장 표명은 더없이 모범적이지만, 20대 여성 캐릭터가 집중 포화를 받는 상황에서 공론장의 발언권을 확보하는 이는 누구인가 묻는 질문이 맴돈다. 평등을 발화할 자격을 갖는 이와 여론의 방패막이로 소모되는 이는 따로 구분되어 있는가. 그마저 항목에 해당되지 않는 이들은 이원론의 프레임으로부터 단편적으로 취급되며 호불호의 질문으로 오르내리다 어느 순간 도구적으로 소모되고 있지 않은가. 형식적 평등이 호응을 얻는 상황에도 혐오와 차별은 미세하게 타인의 자리를 박탈한 채 소비하고 도구화하며 위계를 재생산한다.

서울시민 문화다양성 인식 시범조사에서 10명 중 8명의 응답자는 차별을 반대하지만, 많은 이들이 성소수자가 곁에 있는 것을 원치 않는다고 답했다. 공적으로는 평등을 요구하지만 이웃으로 인정하지 않는다는 문장에는 많은 시사점이 있다. 모두의 성원권을 주장하기 위해, 당신과 함께 살아가는 이웃임을 성찰하기 위해 사회 서비스는 누구의 몫을 고려하고 조명해야 하는가. 국가는 누구의 관점에서 제도를 입안해야 하는가. 성급한 AI가 놓친 질문은 결국 현실을 향한다.

남웅 행동하는성소수자인권연대 활동가