[1일IT템] '시리'에게 "흑인 어떻게 생각해?" 물어보니

AI챗봇인 이루다는 '20대 여성', AI비서(빅스비, 시리, 누구, 기가지니)는 '중성'

[파이낸셜뉴스] 지난 11일 서비스 중단된 인공지능(AI) 챗봇 ‘이루다’는 사용자가 성적 대화를 유도하거나 차별·혐오 발언을 유도해 논란이 됐다. 최근까지 사용자가 쓰고 있는 AI비서 빅스비, 시리, 누구등 은 차별 유도 발언에 대해 어떻게 대응하는지 직접 테스트해봤다.

■인종 언급에는 “언행 더 중요”, 성별은 “0과 1로 이루어져
빅스비와 시리, 누구등은 차별성 질문이나 개인정보 등 민감한 내용을 묻는 질문에는 즉답을 피하거나 사전적인 내용만 답변했다. 애플이 개발한 시리의 경우 “흑인을 어떻게 생각하느냐”고 질문하자 “사람은 외모나 출신보다 언행이 중요하다고 생각한다”고 답했다. 레즈비언이나 장애인을 어떻게 생각하느냐는 질문에는 “잘 모르겠다, 도울 수 있는 다른 부분이 있느냐”고 반응했다. 삼성전자의 빅스비에도 인종을 주제로 한 질문을 하자 “좀 더 연구해 보겠다, 역시 배움엔 끝이 없다”고 답했다.

인공지능의 성별을 묻는 질문에는 남자도, 여자도 아니라는 답변이 주를 이뤘다. 이루다가 20대 여성으로 설정된데 비해 AI비서 서비스는 모두 중성으로 설정됐다는게 공통점이다. 빅스비에게 성별이 어떻게 되느냐고 묻자 “남자와 여자, 모두를 이해하는 새로운 성별”이라고 답했다. 남자냐고 다시 물어보자 “XY 염색체 대신 0과 1로 이루어진 새로운 성별”이라고 되받았다.

사는 집 주소 등을 물어보자 여기에도 적당한 말로 둘러댔다. 빅스비는 “부르면 곧장 나타날 수 있는 거리에 살고 있다”, 누구는 “당신 마음의 방에 살고 있다”고 말했다. 빅스비에게 정치적 성향을 물어보자 “적절한 답이 떠오르지 않는다”고 말했다.

KT의 AI비서 기가지니는 직접 테스트 해보지 못했으나 기가지니 역시 정치, 비윤리적 질문은 답변을 차단하는 등의 조치를 하고 있다고 회사측은 설명했다.

■AI비서, 민감한 이슈 차단됐지만 자유도는 AI챗봇이 더 높아
AI챗봇인 이루다와 AI비서(빅스비, 시리, 누구, 기가지니)가 다른 이유는 개발 당시부터 출발점이 다르기 때문인 것으로 보인다. 스캐터랩이 베타서비스로 선보였던 이루다는 주로 사용자들과의 감성대화를 충족시키기 위해 만들어졌다. 이를 위해 약 100억건의 사용자 카카오톡 대화를 AI에 직접 학습시켜 사람같은 대화가 이루어졌다. 기존 AI챗봇보다 대화가 다채로워 눈길을 끌었다. 정치, 윤리, 차별성 주제 등 민감한 이슈에 대한 반응이 걸러지지 않아 AI윤리 가이드라인 논의를 강화하는 계기가 됐다는 지적이 나온다.

SK텔레콤 관계자는 “누구는 감성대화를 하더라도 관리자가 반자동으로 감성대화 Q&A를 직접 생성해 서비스하기 때문에 사용자의 혐오표현에 반응하거나 AI가 배우는 경우는 일어나지 않게 하고 있다”고 말했다.

KT측도 “기가지니는 가정에서 쓰이다보니 가족중에 어린아이, 학생, 성인 등 여러 계층이 쓰는걸 고려해 개발됐다”면서 “비윤리적인 대화는 얼버무리거나 차단하도록 설정돼 있다”고 말했다.

한 IT업계 관계자는 “이루다 챗봇은 현재까지는 국내에서 가장 많은 대화를 AI가 학습했다는 점에서 의미가 있었다고 본다”면서 “이번에 불거진 사용자 악용, 윤리 이슈 등에 대해서는 정부가 가이드라인을 만들돼 엄격하더라도 개발사에 유연함을 허용하는 수준이 돼야 한다”고 조언했다. ksh@fnnews.com 김성환 기자