딥페이크 범죄 늘자 …'빅테크 본고장' 美도 초강력 규제

캘리포니아주 법안 통과
아동성착취 합성물 원천차단
실존 인물 아닌 영상도 처벌
美, 글로벌 AI경쟁 속에서도
딥페이크엔 자국기업 때리기
"美·EU 등 세계 흐름 발맞춰
韓, 빅테크 처벌 강화해야"

◆ 딥페이크 포비아 ◆

미국에서 주정부 차원의 딥페이크 관련 규제 법안이 쏟아지는 가운데 '빅테크의 고장'인 실리콘밸리가 위치한 캘리포니아주가 칼을 꺼내들어 관심이다.

캘리포니아 주의회가 지난달 말 통과시킨 딥페이크 법안은 인공지능(AI) 딥페이크에 대한 미국의 첫 포괄적 규제라는 점에서 의미가 크다. 해당 법안은 실제 아동이 아니라 AI가 생성한 아동 성착취물을 만든 경우도 처벌할 수 있다. 딥페이크 성착취물을 제작한 사람뿐 아니라 배포·소지한 사람도 처벌하도록 규정한다.

세계 50대 AI 기업 중 35개가 캘리포니아주에 있는 상황에서 초강력 규제에 나선 셈이다. 딥페이크의 유통 경로로 지목되는 빅테크는 이 법안의 타격을 받을 것으로 보인다.

AI는 향후 국가경쟁력을 좌우할 핵심 요소로 평가된다. 겉으로는 전 세계가 '안전한 AI'를 표방한다고 하지만 물밑에선 자국 산업 보호를 위해 치열한 신경전을 펼치고 있는 게 엄중한 현실이다. 유럽연합(EU)이 디지털서비스법(DSA)을 도입할 때 플랫폼 기업이 책임지고 불법·유해 콘텐츠, 가짜뉴스, 서비스, 상품에 대응하는 체계를 갖추도록 한 명분은 '안전하고 투명하고 믿을 수 있는 온라인 환경'이다. 불법·유해 콘텐츠나 가짜뉴스가 확산하지 않도록 플랫폼 기업이 책임지고 빠르게 삭제하라는 얘기다. 하지만 속내를 들여다보면 빅테크와 견줄 만한 자국 기업이 없는 EU가 빅테크를 견제하면서 자국 기업을 육성하기 위해 내린 결단이었다는 시각도 적지 않다. 빅테크에 종속되지 않고 자국 모델을 육성해야 한다는 'AI 주권(Sovereign AI)'이 나오는 배경이다. 사실 빅테크에 대한 EU 제재와 미국 제재는 기본적으로 성격이 다르다고 할 수 있다. 대다수 AI 기업을 보유한 미국은 그동안 자국 산업 보호에 앞장서 왔지만 최근 딥페이크를 활용한 성착취 사건이 쏟아지자 이 문제에서만큼은 규제 강화로 방침을 세웠다는 분석이다.

뉴욕타임스(NYT)에 따르면 지난해 10월에 뉴저지주 웨스트필드고등학교에서는 남학생들이 같은 학급 10학년(14세) 여학생들의 실제 사진으로 딥페이크를 만들어 공유하고 유포한 사건이 지역사회에서 큰 파문을 일으켰다.

딥페이크 사건이 미국 전역을 충격에 휩싸이게 만들면서 주정부에서 관련된 법을 만들기 시작했다. 기존에 리벤지포르노(과거 연인의 성적인 사진이나 영상을 유포하는 것)나 아동 성착취에 대한 법에 딥페이크로 생성된 콘텐츠를 포함하는 형태가 많았다.

이처럼 유럽에 이어 미국까지 AI를 활용한 딥페이크 규제 강화에 나섰지만 한국 정부 대책은 여전히 오리무중이다. 일각에서는 2019년 'N번방 사건' 이후 방지법이 마련됐으나 국내 사업자만 적용받는 상황이 재현될 수 있다는 우려도 나온다. 글로벌 빅테크 규제에 전혀 손을 쓰지 못하고 있는 현실을 개선해야 한다는 목소리가 높다. 공정거래위원회에서 추진하는 플랫폼법 역시 글로벌 빅테크보다 국내 플랫폼 사업자들에 규제 부담이 돌아갈 것이라는 우려가 크다.

김윤명 한림국제대학원대학교 교수는 "미국은 더 이상 자율 규제만을 선호하지 않고 사업자 규제 수위를 보다 더 강하게 높여가는 추세"라며 "유해 딥페이크에 대한 새로운 법안을 또 만들기보다는 기존 법망의 테두리에서 부족한 지점이 무엇인지를 명확하게 진단하고 이를 속도감 있게 관련 부처가 함께 보완해 나가는 작업이 우선시돼야 한다"고 강조했다.

[실리콘밸리 이덕주 특파원 / 서울 고민서 기자]