바이든 이어 스위프트까지 딥페이크 피해…美 탄력받는 'AI 규제' 여론

김성식 기자 권영미 기자 2024. 1. 29. 10:38
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

국민가수 성착취 이미지 확산…백악관, 의회에 규제입법 주문
여야 의원 한목소리로 규탄…전문가들 "워터마크도 무력화된다"
테일러 스위프트가 지난해 8월 미국 캘리포니아 잉글우드에서 열린 자신의 콘서트에서 열창하는 모습. .2023.08.07. ⓒ AFP=뉴스1 ⓒ News1 권진영 기자

(서울=뉴스1) 김성식 권영미 기자 = 미국 팝가수 테일러 스위프트를 성적 대상화 한 이미지가 생성형 인공지능(AI) 기술로 합성된 것으로 알려지자 미국에선 AI 규제가 시급하다는 목소리가 다시 한번 힘을 얻고 있다. 오는 11월 대선을 앞두고 민주당 경선 과정에서 조 바이든 대통령의 가짜 목소리가 유포되면서 정치권도 AI 규제 논의가 재개됐다.

미국 정보기술(IT) 전문매체 404미디어에 따르면 지난 25일(현지시간) 소셜미디어 엑스(X·구 트위터) 등지에서 유포된 스위프트의 딥페이크(deep fake·현실과 거짓을 뒤섞은 이미지·음성·영상)는 익명 메신저앱 텔레그램 내 특정 그룹 사용자들이 생성형 AI로 만든 것으로 파악됐다. 해당 그룹에선 마이크로소프트(MS)의 이미지 생성 도구인 디자이너(Designer)로 만든 성착취 이미지가 그간 은밀하게 공유됐다고 한다.

이에 대해 사티아 나델라 MS 최고경영자(CEO)는 27일 미 NBC 방송과의 인터뷰에서 스위프트의 딥페이크물에 대해 "매우 끔찍한 일"이라고 규탄했다. 이어 "안전한 콘텐츠가 제작될 수 있도록 기술 주변에 가드레일(안전장치)을 설치해야 한다"며 규제 필요성을 인정했다. MS는 성명을 통해 디자이너 필터링을 강화하는 조치를 취했다고 밝혔다. 엑스도 문제의 이미지를 전량 삭제하고, 스위프트 관련 검색어를 잠정 차단했다.

표현의 자유를 이유로 콘텐츠 검열을 자제해 오던 미국 IT 업체들의 이례적인 강경 대처에도 불구하고 '사후 약방문'이란 지적이 나오고 있다. 해당 엑스 계정이 정지되기 전까지 스위프트 딥페이크는 17시간 동안 무려 4500만회의 조회수를 기록했기 때문이다. 심지어 '티엘러 스위프트 AI'란 검색어가 버젓이 엑스의 '실시간 트렌드' 상위권에 오르기도 했다. 이에 격분한 스위프트 팬들은 스위프트의 실제 공연 장면을 무더기로 해시태그 하는 방식으로 딥페이크물을 덮고자 고군분투했다.

스위프트는 투어 콘서트를 한 번 진행할 때마다 인근 도시의 숙박·요식업 매출을 폭발적으로 증대시키는 경제적 파급력을 몰고 다닌다. 지난해 7월 미 연방준비제도(Fed·연준)가 발간한 보고서에 이러한 경기부양 현상을 일컫는 '스위프트노믹스'(Swiftnomics)란 신조어가 나왔을 정도다. 미국 국민가수를 상대로 한 성착취물 소식에 카린 장 피에르 백악관 대변인은 26일 브리핑에서 "매우 우려스러운 일"이라며 의회를 향해 AI 규제와 관련한 입법에 나설 것을 주문했다.

조 모렐 민주당 하원의원(뉴욕주)은 디지털로 조작된 포르노 이미지를 동의없이 공유하는 것을 연방범죄로 규정하고 징역형과 벌금을 부과하는 법안을 통과시킬 것을 촉구했다. 모렐 의원은 현재 하원 법사위원회에 회부된 초당적 법안인 '은밀한 이미지 딥페이크 방지법'을 발의한 당사자다. 이에 대해 공화당 소속 톰 킨 주니어 하원의원도 "AI 기술이 필요한 보호 장치가 마련되는 속도보다 더 빠르게 발전하고 있다"며 "안전장치를 마련해야 한다"고 화답했다.

정치권에선 불과 사흘 전 조 바이든 대통령의 목소리를 흉내 낸 '로보콜'(robocall· 녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 이미 한차례 홍역을 치른 바 있다. 민주당 뉴햄프셔주 비공식 경선 전날인 지난 22일 '투표에 참여하지 말라'는 로보콜을 받았다는 유권자들의 증언이 쏟아지자 백악관이 나서서 해당 로보콜은 바이든 대통령의 녹음본이 아닌 AI에 의한 딥페이크라고 해명해야 했다.

물론 미국 정부도 AI 규제에 손을 놓은 것은 아니다. 바이든 행정부는 지난해 10월 AI의 잠재적인 위험으로부터 국가안보, 저작권자, 소비자, 근로자, 소수 집단을 보호하는 포괄적 행정명령에 서명했다. 행정명령에는 AI 개발 기업을 상대로 신제품 출시 전 안전검사를 실시하는 한편 AI가 생성한 자료에는 워터마크를 부착하는 것을 의무화하는 방안이 포함됐다. 같은해 7월 바이든 행정부는 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 워터마크 부착 약속을 받아냈는데, 이제는 기업 자율에만 맡기지 않고 정부가 적극 개입하겠다는 의지를 드러낸 것이다.

그럼에도 워터마크 부착 정도로는 각종 딥페이크물 피해를 예방하기 어렵다는 게 전문가들의 중론이다. AI 기술이 갈수록 고도화돼 탐지 소프트웨어와 워터마크 모두 사용자들에 의해 무력화될 수 있기 때문이다. 영국 경제전문지 이코노미스트가 지난달 미국 뉴올리언스에서 열린 세계 최대 AI 학회 '뉴립스'에 참석한 전문가들을 대상으로 진행한 설문조사 결과에 따르면 응답자 23명 중 17명은 이러한 이유로 AI가 생성한 딥페이크물은 점차 탐지가 불가능할 것으로 전망했다.

seongskim@news1.kr

Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

이 기사에 대해 어떻게 생각하시나요?