캘리포니아, 딥페이크 신고땐 바로 삭제한다

[’범죄 방조자’ 거대 플랫폼]

그래픽=백형선

‘빅테크의 성지’인 미국 캘리포니아주가 선거 관련 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠)를 강력하게 규제하는 법안을 시행한다. 미국 다른 주에서도 이미 선거 딥페이크를 제재하는 법안이 시행되고 있지만, 모두 제작자에게 책임을 묻는다. 이번 캘리포니아 법안은 플랫폼에 딥페이크 확산을 막도록 하는 의무를 부과하고, 신고 접수 시 72시간 내 삭제하도록 했다는 데 의미가 있다. 뉴욕타임스(NYT)에 따르면 “이 정도 강도의 딥페이크 제재 법안은 처음”이라고 평가했다.

캘리포니아주 정부는 17일 성명을 내고 개빈 뉴섬 주지사가 온라인 플랫폼에서 허위 콘텐츠를 없애고 빅테크에 책임을 지우는 세 가지 법안에 서명했다고 밝혔다. 유튜브를 운영하는 구글, 페이스북·인스타그램을 소유한 메타 등 캘리포니아에 본사를 두고 있는 빅테크들이 제재 대상이 되는 만큼, 업계에선 “이번 법안이 전 세계적으로 거대 플랫폼의 운영에 영향을 미칠 수 있다”는 전망이 나온다.

◇선거 딥페이크, 플랫폼이 없애야

이번 법안은 사용자 100만명이 넘는 거대 플랫폼은 선거 관련 허위 정보와 딥페이크 신고를 접수할 수 있는 창구를 의무적으로 설치하도록 했다. 신고받은 뒤 확인 절차를 거쳐 72시간 내 이를 삭제하거나 AI로 제작됐다는 표지를 달아야 한다. 유튜브, 페이스북, 인스타그램, 틱톡 등이 모두 여기에 해당한다. 만약 이들이 조치를 거부할 경우, 사법 당국과 선거 당국에 조치를 강제할 수 있는 권한을 부여했다. 플랫폼이 따르지 않으면 직접 형사 처벌할 수 있는 내용은 이번 법안에 포함돼 있지 않다. 하지만 선거 당국이나 후보자가 플랫폼을 상대로 민사 소송을 제기하는 방식으로 구제될 수 있게 했다.

그래픽=백형선

캘리포니아주는 이번 법안에서 선거 관련 딥페이크 유포와 관련한 규제도 강화했다. 현재 캘리포니아주는 선거 전 60일 동안 선거 관련 딥페이크 유포를 금지하고 있다. 앞으로는 선거 전 120일, 선거 후 60일 동안 금지된다. 개표 과정이나 개표 후 선거 결과에 불복하는 딥페이크의 확산을 방지하기 위해서다.

◇대선 판도도 바꾸는 가짜 뉴스

‘표현의 자유’를 중시하는 미국은 기업들이 자사 플랫폼에서 유통되는 콘텐츠에 대한 책임을 질 필요가 없는 ‘면책 조항’을 연방법에 두고 있다. 지금까지 연방법이나 주법에서 플랫폼에 가짜 뉴스, 불법 콘텐츠의 방치한 데 대한 책임을 플랫폼에 묻지 않는 것이 불문율이었다. 그럼에도 불구하고 캘리포니아가 AI와 딥페이크 규제에 강한 행보를 보인 것은 올해 선거를 앞두고 여느 때보다 가짜 뉴스가 기승을 부리고 있기 때문이다. 도널드 트럼프 전 대통령을 지지하는 극우 음모론 집단인 ‘큐어논(Qanon)’은 2021년 미 의사당 폭동까지 이끌었다. 최근에는 진보 진영에서도 음모론 집단인 ‘블루어논’이 등장했다. NYT가 “AI를 활용한 큐어논과 가짜 뉴스가 올 대선 판도를 바꾸고 있다”고 했다.

이번 딥페이크 법안은 캘리포니아주 정부가 AI 규제를 위해 추진하고 있는 광범위한 법안의 일부에 불과하다. 뉴섬 주지사는 이날 할리우드의 딥페이크 사용을 규제하는 다른 두 가지 법에도 서명했다. 또 미성년자 성폭력 딥페이크의 제작과 유통을 막는 법안도 주의회를 통과해 주지사의 서명을 기다리고 있다. 이 법안은 가상의 인물이라도 미성년자 성 착취를 표현하는 딥페이크 콘텐츠는 제작자뿐 아니라 배포하거나 소지한 사람까지 전부 처벌하는 것이 골자다.

미국은 연방법이 주법에 우선하는 것이 원칙이다. 하지만 외교·이민·화폐 등 연방 차원의 문제가 아닌 경우는 각 주의 재량권을 인정하는 추세다. 이 때문에 플랫폼에 책임을 묻지 않는 연방법에도 불구하고, 플랫폼 규제 관련 각 주의 법률 적용은 앞으로 법정에서 다퉈질 가능성이 높다.