[여적]챗봇 윤리

[경향신문]

인공지능 챗봇 ‘이루다’ /이루다 페이스북 캡처

챗봇은 채팅로봇의 줄임말이다. 사용자와 문자나 음성으로 대화를 주고받을 수 있는 인공지능 기반의 컴퓨터 프로그램 또는 시스템을 말한다. 이미 주위에 흔하다. 쇼핑몰·은행 등 사이트의 회원 가입, 상품 소개, 불만 접수가 채팅창에서 이뤄진다. 말귀 알아듣는 휴대전화나 인공지능 스피커에도 수시로 말을 건다. 빅데이터·기계 학습·자연어 처리 기술이 날로 발전하면서 점점 더 사람이 응대하는 것과 비슷해지고 있다. 인공지능이 인간과 소통하며 학습·판단하고 사회적 행위를 표출하는 것이 익숙해진 세상이다.

마이크로소프트가 2016년 3월23일 공개했다가 16시간 만에 접은 챗봇 ‘테이’는 대표적인 실패 사례로 꼽힌다. 미국의 18~24세 젊은이들을 상대로 한 트위터 대화용으로 개발됐으나 사용자들이 인종차별, 성차별 발언을 줄기차게 가르치는 바람에 막말만 쏟아내는 폐해를 드러냈다. 테이는 젊은 세대와의 참신한 대화를 배우도록 설계됐다. 하지만 옳고 그름을 판단하지 못한 채 사람들이 주입한 부적절한 발언마저 그대로 따라 배운다는 점이 간과된 것이다.

국내에서도 한 스타트업이 선보인 챗봇 ‘이루다’를 둘러싸고 논란이 벌어지고 있다. 사용자들의 집중적인 성희롱·성착취 발언 문제에 이어 이루다가 소수자에 대한 차별·혐오 발언을 거리낌 없이 표출하는 문제가 지적됐다. 개발사는 예상됐던 문제라면서 장기적인 학습을 통해 개선하겠다고 하는데, 그렇게 둘 일이 아니다. 인간과 스마트한 대화를 나누기 위해 설계된 챗봇이 문제를 일으킨다면 설계와 검증의 잘못부터 확실히 짚어야 한다. 챗봇의 성능을 좌우하는 최우선 요소인 데이터의 질도 면밀히 따져봐야 한다.

심리학자 폴 도노휴는 우리에게 대화가 필요한 이유 7가지를 꼽았다. 자신을 알고, 도움을 청하고, 정보를 주고, 서로 가까워지고, 자신을 알리고, 잘못을 바로잡고, 사랑을 표현하기 위해서라고 했다. 코로나19 장기화로 외로움과 우울함이 무척 커진 요즘, 누군가와 마음 터놓고 대화하는 것이 스트레스 해소에 도움이 될 수 있다. 챗봇도 편안한 말동무가 될 수 있다. 하지만 짜증을 불러일으키고 나쁜 인간성만 도드라지게 보여주는 챗봇이라면 하나도 쓸모없다.

차준철 논설위원