어! 뉴욕 시장이 중국어로 연설하네? 알고보니...

[윤주헌의 What’s up 뉴욕]
AI 기술 도입… 대본만 입력하면 스페인어·유대어 등 발음도 유창

에릭 애덤스 시장이 지난 16일(현지 시각) AI(인공지능)를 사용해 세계 각국의 언어로 된 자신의 목소리를 만들어 메시지를 작성해 각 가정에 전파한다고 밝혔다. 일각에서는 "비윤리적"이라는 비판이 나온다. /연합뉴스

“AI(Artificial Intelligence·인공지능)는 정말 놀랍습니다. 대본을 입력하기만 하면 제 목소리로 된 여러 가지 언어로 변환해 주거든요. 길거리에서 사람들이 저를 불러 세우고 ‘당신이 중국어를 하는 줄 몰랐어요’라고 말하기도 합니다.”

에릭 애덤스 미국 뉴욕 시장은 지난 16일(현지 시각) 뉴욕시청에서 열린 한 발표회에서 이같이 말했다. 시민들에게 지역 사회 행사에 참석하도록 독려하는 음성 메시지 등을 전화로 보낼 때 AI를 사용하기 시작했다고 발표하는 자리였다. 예컨대 뉴욕시가 시민들에게 전하기 원하는 텍스트 메시지를 작성하면, AI가 애덤스 시장의 목소리로 중국어나 스페인어, 유대인 언어 등으로 말하는 음성 메시지로 자동 변환해 각 가정에 전파하는 것이다. 이를 발표하며 크게 웃는 애덤스 시장의 표정에서 자신감이 묻어났다. 그는 “뉴욕 시민 중에는 중국인도 많은데 실제로 내가 할 수 있는 중국어라고는 ‘니하오(안녕하세요)’뿐”이라고 했다. 실제 그는 외국어는 못하고 영어만 할 줄 안다고 한다.

뉴욕시는 AI 다국어 음성 메시지를 대대적으로 홍보하며 다른 어떤 도시에서도 시도하지 않은 혁신 행정의 사례라고 치켜세우고 있다. 뉴욕은 대표적인 다(多)인종 도시다. 170개 이상의 언어가 뉴욕에서 사용될 정도로 이민자들이 많아 ‘인종의 용광로’라고 불린다. 지난해 미국의 인구 조사 결과에 따르면 뉴욕 시민 가운데 백인이 31.9%로 가장 많았고, 이어 히스패닉(28.9%), 흑인(23.4%), 아시아인(14.2%) 등의 순이었다. “자신들이 사용하는, 익숙한 언어로 안내받는 것은 시민 모두에게 필요한 일”이라는 평가가 나오는 배경이다.

하지만 무분별한 AI 도입이 혼란을 부추길 수 있다는 비판도 나온다. 자신이 한 것도 아닌데 마치 듣는 사람이 착각하게 만드는 ‘딥페이크(인공지능을 통한 비디오 또는 오디오 생성)’에 해당한다는 비판이 대표적이다. 시장이 대놓고 AI를 사용해 목소리를 꾸며내면 관련 모방 범죄가 나올 수 있다고 현지 언론들은 지적했다. 개인 정보 보호를 위해 활동하는 비영리 단체 ‘감시 기술 감독 프로젝트’의 앨버트 콕스 칸 국장은 “딥페이크를 사용해 메시지를 전파하는 것은 매우 비윤리적이고 소름 끼치는 일”이라고 했다.

시장이 자기 치적을 위해 시민들의 동의를 받지 않고 세금을 낭비한다는 지적도 있다. 칸 국장은 뉴욕타임스(NYT)에 “공공의 이익을 위한 것이 아니라 선거를 위한 책략에 불과한 것”이라고 주장했다. 2025년 시장 선거에 다시 출마하려는 애덤스가 스페인어를 사용할 줄 아는 것처럼 보임으로써 히스패닉 유권자들의 환심을 사려는 노림수라는 것이다. NYT는 “AI 음성 메시지를 사용하기 위해 3만2000달러(약 4300만원)가 사용됐다”고 전했다.

이 같은 논란에 대해 애덤스 시장은 채용박람회 등 행사에 사람들을 초청하는 데 AI가 큰 도움이 됐다고 강조했다. 또 “(AI의 광범위한 사용이) 윤리적으로 옳은지 아닌지는, 철학적인 사람들이 앉아서 토론해야 할 광범위한 주제”라며 “사람들이 이해할 수 있는 언어로 사람들과 대화할 수 있어야 하며 (AI 기술을 통해) 그렇게 할 수 있어 기쁘다”라고 했다. AI의 윤리성 문제를 둘러싼 논란은 탁상공론에 불과하다는 것이다.

내년 11월 대선을 앞둔 미국에서는 AI의 위험성을 경고하는 목소리가 꾸준히 나오고 있다. 공화당 유력 대선 주자인 도널드 트럼프 전 미국 대통령은 자신의 소셜미디어인 트루스소셜에 자신에게 비판적인 입장인 CNN 간판 앵커 앤더슨 쿠퍼의 영상을 짜깁기한 49초 분량의 동영상을 올렸다가 비판을 받았다.

AI 도입이 확산되자, 미국 사회는 민감하게 반응하고 있다. 뉴욕시가 지난달 타임스스퀘어역에 경찰로봇 K5를 실전 배치한다고 밝혔을 때도 ‘인권 침해’ 우려가 나왔다. 로봇에 부착된 카메라로 길거리에 다니는 사람들의 얼굴을 찍어 보관하는 것 아니냐는 지적이었다. 뉴욕시는 “안면 인식 기능도 없고 안전하다”고 해명한 바 있다.

-

🌎조선일보 국제부가 픽한 글로벌 이슈! 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/275739

🌎국제퀴즈 풀고 선물도 받으세요! ☞ https://www.chosun.com/members-event/?mec=n_quiz