미 캘리포니아, ‘딥페이크’ 아동 성착취물 규제 추진

실존 인물 아니어도 기소 가능…선거 관련 딥페이크도 규제

딥페이크 관련 자료사진. 언스플래쉬(Steve Johnson)

최근 세계적 문제로 거론되는 딥페이크(인공지능 기반 이미지 합성) 범죄를 두고 미국 캘리포니아주가 법적 규제에 나섰다.

지난달 31일(현지시간) AP통신에 따르면 캘리포니아 주의회는 아동 성착취물 제작 등 인공지능(AI)을 활용한 범죄 행위를 단속하기 위해 일련의 규제 법안을 통과시켰다. 개빈 뉴섬 주지사가 법안에 서명하면 캘리포니아는 미국에서 최초로 AI 딥페이크에 대한 포괄적 규제를 도입하는 주가 된다.

이번 법안에는 딥페이크 기술을 이용해 아동 성착취물을 만들 경우 처벌이 가능하도록 하는 내용이 담겼다. 현행법에선 표현의 자유를 규정한 미국 수정헌법 1조에 따라 딥페이크 영상 속 인물이 실존 인물이 아니면 기소와 처벌이 불가능하다.

개빈 뉴섬 주지사가 송부된 법안에 서명하면 앞으로 딥페이크 아동 성착취물을 제작한 사람뿐 아니라 배포·소지한 사람도 처벌 대상이 될 수 있다. 뉴섬 주지사는 9월30일까지 법안에 서명하거나 거부권을 행사해야 한다.

11월 대선을 앞두고 정치 분야에서도 AI 딥페이크에 대한 규제를 강화한다. 주 의원들은 선거와 관련한 딥페이크 제작을 금지하고, 사회관계망서비스(SNS) 업체에 선거 120일 전부터 딥페이크를 사용한 선거 콘텐츠를 규제하도록 의무를 부과하는 법안도 승인했다. 선거 당국이나 후보가 딥페이크 선거 콘텐츠를 제작한 사람에게 손해배상을 청구할 수 있는 길도 마련했다. 다만 풍자가 목적인 제작물은 규제 대상의 예외로 뒀다.

그 밖에 성우 등 노동자들이 AI로 대체되는 것을 규제하는 내용도 법안에 포함됐다. 국가와 지방 기관이 콜센터 직원을 AI로 대체하는 것도 금지한다. AP는 “캘리포니아 의원들은 AI 산업을 규제하고, 딥페이크를 퇴치하고, 빠르게 진화하는 기술에 의한 착취로부터 노동자를 보호하기 위해 여러 법안은 처리했다”고 전했다.

김희진 기자 hjin@kyunghyang.com