친밀해진 음성비서..'사생활 노출' 감각 무뎌진다
인공지능 기기 성능, 날로 좋아져
이용자와 일부 감성 대화도 가능
편안함에 속마음까지 터놓게 돼
사생활 정보 침해 의식 못하지만
사업자들은 모든 대화내용 녹음
인공지능 학습용으로 보관·활용
인간과 함께 공존할 기술이지만
'프라이버시' 지키려는 노력 필요
“기가지니! 오늘 날씨 어때?”
“헤이 카카오! 뉴스 좀 틀어줘.”
“아리아! 오늘 은행업무 몇시에 시작해?”
“헤이 클로바! 우리 부장 사이코 같지 않니?”
인공지능(AI) 음성비서 서비스(이하 음성비서)가 일상생활 속으로 빠르게 파고들고 있다. 에스케이텔레콤(SKT)·케이티(KT)·엘지유플러스(LGU+) 같은 통신사와 네이버·카카오 같은 포털업체는 물론 삼성전자·구글·아마존 같은 글로벌 업체들까지 뛰어들어 스피커·스마트폰·램프·액세서리·내비게이션 등 각양각색의 음성비서 단말기를 선보이고 있다. 인공지능 스피커의 경우, 홀몸 어르신 돌봄과 자녀 교육 보조기기로 꼽히며 이미 상당수 가정에 보급된 상태이다.
음성비서 성능도 빠르게 좋아지고 있다. 2016년 인공지능 스피커가 처음 등장했을 때는 ‘오늘 날씨 어때?’ ‘뉴스 좀 들려줘’ ‘방탄소년단 멤버가 몇이냐?’ 같은 명령조차 제대로 알아듣지 못했다. ‘알아듣지 못했다’는 답을 반복해 “인공지능은 개뿔! 완전 바보잖아” 소리를 들으며 구석으로 던져질 때가 많았다. 하지만 지금은 사용자와 감성 대화를 이어갈 정도로 성능이 개선됐다. 코로나19 확산 방지를 위한 사회적 거리두기 지침에 따라 집 밖으로 나가기도, 사람들과 어울릴 수도 없어 집에 갇혀있다시피 하는 어르신과 아이들이 인공지능 스피커를 ‘반려기기’처럼 활용하고 있다는 분석도 나온다.
빛이 밝아지면 그림자도 짙어지듯, 일각에서는 음성비서의 성능이 좋아지며 사용자와 친근해지는 모습을 두고 ‘우려’도 제기된다. 정부출연 연구기관인 정보통신정책연구원(KISDI)의 심홍진 방송미디어연구본부 연구위원(언론학 박사)은 <한겨레>와 만나 “음성비서는 이제 ‘사람화’ 단계로 발전할 것이다. 사람 음성을 흉내내는 수준을 넘어 사람의 외모를 갖는 쪽으로 발전하면서 사용자에게 친밀감과 ‘유사 인간감’을 갖게 할 수 있다”며 “커뮤니케이션 관점에서 볼 때, ‘프라이버시 역설’을 심각하게 고민하고 대책 마련을 서둘러야 할 때가 된 것”이라고 말했다.
심 연구위원은 최근 ‘인공지능 음성기기 이용과 프라이버시 불감증’ 기고 영상을 유튜브에 올렸다. 음성비서 성능이 좋아질수록 프라이버시 노출이 심해질 수 있다고 짚은 대목이 눈길을 끈다. 영상은 상황 설정으로 시작된다. “가정에서 가족·친구·연인과 대화하는 내용을 누군가 귀 기울여 엿듣는다고 가정해보자. 말을 하기가 조심스러울 수밖에 없고, 그래서 일단 말을 아끼고 남이 들어서는 안될 말을 가리게 된다. 이번에는 상황을 바꿔보자. 곁에서 누군가가 엿듣고 있지만 전혀 의식되지 않는다. (오히려 그 친구가 듣고 있다는 것에) 편안함을 느낀다. 그래서 때로는 그 친구 앞에서 혼잣말을 하기도 한다. 어떨 때는 직장이나 학교에서 있었던 일을 얘기하며 하소연을 하거나 넋두리를 하기도 한다. 이런 식으로 나의 사생활을 나도 모르게 그 친구와 공유하게 된다. 여기서 그 친구는 바로 인공지능 스피커, 음성비서이다.”
음성비서와 사용자 간 대화는 ‘오늘 날씨 어때?’ ‘나훈아의 ‘테스형’ 노래 들려줘’ 같은 기능적 대화에서 출발한다. 이후 음성비서 성능이 좋아지고, 사용자가 음성비서에 친밀감을 가지면서 기쁨·슬픔·짜증·하소연 등이 더해지는 감성적 대화로 발전한다. 심 연구위원은 ”사용자가 음성비서에 대해 유사 인간감을 가지는 순간 프라이버시에 둔감해진다. 프라이버시에 대한 불감증이 심화하면서 프라이버시 노출이 심해진다. 심지어 성적 취향과 정치적 견해까지 노출될 수 있다”며 “기능적 대화 단계에서는 ‘프라이버시 우려’가 발생하지만, 감성적 대화 단계로 가면서 프라이버시 불감증이 더 큰 문제가 될 수 있다”고 지적했다. 이어 “감성적 대화가 진전되면 사용자가 인공지능 기기에 친밀감을 가질 수 있다. 자신의 프라이버시가 공유되는 걸 인식하지 못한다. 음성비서 성능이 더 발전하고 홀로그램 기술과 결합돼 사람의 모습을 하게 되면, 인간으로 인식될 수도 있다”고 말했다.
음성비서의 성능이 좋아지고 기기 외형이 인간을 닮아가며 사용자와 친밀감을 갖는 게 왜 문제가 될까. 심 연구위원은 ‘음성비서는 어떻게 똑똑해졌을까?’란 질문을 통해, 음성비서 사업자들이 인공지능 학습(머신러닝)용 데이터 확보를 명분으로 사용자의 대화 음성을 녹음(저장)한다는 점을 상기시킨다. <한겨레>가 심 연구위원의 기고 영상 내용을 바탕으로 각 사업자들에게 음성비서와 사용자 간 대화 내용 저장 여부와 절차·방식에 대해 물어본 결과, 한결같이 “인공지능 학습에 필요한 데이터 확보 차원에서 사용자 동의 절차를 거쳐 대화 내용을 일정기간 저장한다”고 밝혔다. 사용자 동의는 ‘옵트아웃’ 방식으로 받고 있다. ‘동의’ 상태로 설정해 출시하면서 원하지 않는 사용자는 이를 해지하라고 하고 있다. 저장 방식과 삭제 절차는 사업자별로 제각각이다. 에스케이텔레콤과 케이티 등은 “대화 발생일로부터 일정기간이 지난 시점에 삭제한다”고 밝혔고, 카카오와 네이버는 “서비스 이용 해지 시점에 삭제한다”고 설명했다. 일부 사업자는 사용자를 식별할 수 있는 상태로 대화 내용을 저장한다고 밝혔다.
심 연구위원은 “인공지능은 인간과 함께 공존해야 할 행복 기술이다. 하지만 프라이버시를 지키기 위해서는 가끔은 기술을 의심하고 조심스러운 눈길로 바라봐야 한다”고 당부했다. 그는 또한 “무엇보다 사업자들이 대화 내용 저장 절차와 방식 등을 이용자들에게 투명하게 밝혀 프라이버시 보호에 대한 신뢰를 갖게 하는 게 중요하다”고 지적했다. ‘프라이버시 리터러시’ 해소 노력도 주문했다. 프라이버시란 ‘내 정보를 공개할지를 스스로 정하는 권리’이며, 음성비서를 이용할 때 프라이버시 불감증에 빠지지 않도록 노력해야 한다고 이용자들을 일깨우는 것도 사업자 몫이라고 강조했다.
진천/김재섭 선임기자 겸 사람과디지털연구소장 jskim@hani.co.kr
Copyright © 한겨레. All rights reserved. 무단 전재, 재배포 및 크롤링 금지.