AI 알렉사에 건넨 한마디, 아마존 직원이 엿듣고 있다

전 세계서 수 천명 고용해 녹음 기록 분석..아마존 "개인정보 철저히 보호..문제 없다"

아마존 기기 담당 수석 부사장 데이브 림프가 지난해 9월 20일 미 시애틀에서 아마존의 스마트스피커 에코 닷을 공개하고 있다. /AFPBBNews=뉴스1

스마트스피커에 탑재된 시리·알렉사 등 인공지능(AI) 비서와 대화할 때 이제는 말조심해야 할 수도 있다. 아마존·구글·애플 등 IT기업들이 AI 기능 개선을 이유로 대화를 녹음해 사람에게 이를 듣게 하고 있기 때문이다.

10일(현지시간) 블룸버그는 "아마존은 이용자가 자사의 AI 비서 알렉사와 나눈 대화를 글로 옮겨 적어 알렉사에게 다시 기입하고 있다"면서 "이를 위해 전 세계에서 직원 수천 명을 고용 중"이라고 보도했다. 아직 알렉사는 인간과의 대화를 완벽하게 해석하지 못하고 있는데, 이를 보완하기 위해 직원 수천 명을 비밀리에 동원하고 있다는 설명이다.

현재 아마존의 스마트스피커 에코는 알렉사를 통해 작동한다. 이용자가 "알렉사" 하고 부르면 알렉사는 에코 전원을 켜고 대화를 녹음하기 시작해 아마존 서버로 이를 전송한다. AI가 완벽하지 않아 가끔은 다른 단어를 써도 녹음하기도 하는데 이렇게 녹음된 내용은 직접 지우지 않는 한 아마존 서버에 그대로 남는다.

보도에 따르면 이 중 무작위로 선택된 녹음 기록을 직원들이 검토하고 알렉사에게 피드백을 준다. 이용자와 알렉사와의 대화에서 가수 '테일러 스위프트'가 언급되면, 대화의 맥락을 이해 못하는 알렉사에게 스위프트가 유명한 가수라는 점을 직원이 지적하는 방식이다. 직원들 중 일부는 알렉사가 이용자의 요구에 적절하게 대응했는지 평가를 하기도 한다.

이 직원들은 하루에 인당 최대 1000여개에 달하는 녹음 기록을 매일 검토한다. 그 중에는 고객의 사생활을 적나라하게 드러내거나 심지어 범죄 행위를 암시하는 기록들도 있다고 블룸버그는 전했다.

실제로 두 명의 아마존 전 직원은 성폭행 현장으로 의심되는 녹음기록을 들은 적이 있다고 밝혔다. 이외에도 아이가 외부의 도움을 요청하는 내용, 씻을 때 부른 노래 등 사생활을 담은 녹음 기록도 있는 것으로 알려졌다. 소식통에 따르면 직원들은 사측에 이에 대한 조치를 취할 것을 요구했지만 아마존은 "개입할 수 없는 내용"이라고 밝혔다.

아마존은 개인정보를 철저히 보호하고 있어 문제될 것이 없다는 입장이다. 아마존은 성명을 통해 "기술적·행정적 보호 장치를 갖췄으며, 이를 악용하는 이에게는 무관용 원칙을 적용하고 있다"면서 "직원들은 개인을 특정할 수 있는 정보에 접근할 권한이 없다"고 선을 그었다. 아마존은 현재 직원들과 해당 업무와 관련해 외부에 발설하는 것을 금지하는 비밀유지(NDA) 협약서를 맺고 있다.

그러나 블룸버그와 CNBC는 아마존이 사람이 알렉사의 녹음 기록을 듣는다고 정확하게 명시하지 않았다고 지적했다. 실제로 아마존은 자사의 홍보 및 사생활(프라이버시) 정책에서 "(고객들의 녹음 기록은) 알렉사의 음성인식기능과 자연어 이해를 돕는데 사용하고 있다"고만 적었다.

다른 스마트스피커에서 사용되는 AI 비서도 마찬가지로 인간의 도움을 받고 있다. 애플과 구글도 자사 AI 비서인 시리와 어시스턴트를 개선하기 위해 사람을 사용하고 있다고 밝혔다. 개인을 특정할 수 있는 정보가 없는 녹음들만을 분석해 인공지능을 개선하고 있다는 것이다.

플로리안 스카웁 미시간대학교 정보학과 교수는 "집에서 편안하게 스마트스피커를 이용할 때 다른 사람이 그 대화를 들을 것이라고 예상하기 어렵다"면서 "우리는 기계가 스스로 학습한다고 믿고 있지만 아직까지는 수동으로 해야 하는 일이 많다"고 지적했다. 그는 이어 아마존과 다른 기업들이 개인정보를 조심스럽게 취급하지 않으면 사생활 침해 논란이 일어날 수 있다고 강조했다.

[관련기사]☞'낙태죄' 헌법불합치…2020년까지만 적용(상보)☞1살때 헤어진 숨겨둔 아들…40년만에 나타나 "상속금 내놔"☞조양호 회장 가족들 머무는 LA 호텔, 주차장 가보니…☞[속보]헌재 잠시 휴정…'자사고 우선선발폐지' 결정까지 다소 시간 걸릴 듯☞200억 금호고속 내놓고 5000억 지원하라는 박삼구

정한결 기자 hanj@mt.co.kr