“인공지능이 만든 아동 성착취물도 엄단”...처벌 강화하는 미국, 한국은?

미국에서 주정부 차원에서 딥페이크 관련 규제 법안이 쏟아지고 있는 가운데 주목되는 것은 ‘빅테크의 고장’인 실리콘밸리가 위치한 캘리포니아가 칼을 꺼내들었다는 점이다.

캘리포니아 주의회가 통과시킨 딥페이크 규제 법안은 개리 뉴섬 주지사 서명시 미국 최초 인공지능 (AI) 딥페이크에 대한 포괄적인 규제가 된다는 데 의미가 크다. 해당 법안은 실제 아동이 아니라 AI가 생성한 아동 성 착취물을 만든 경우에도 처벌할 수 있으며 딥 페이크 성 착취물을 제작한 사람뿐 아니라 배포, 소지한 사람도 처벌할 수 있다. ABC에 따르면 세계50대 기업 중 35개가 캘리포니아에 있는 상황에서 주에 위치한 기업들에 대한 초강력 규제에 나선 것이다.

AI는 향후 국가경쟁력을 좌우할 핵심 요소로 평가된다.

겉으론 전세계가 ‘안전한 AI’를 표방한다고 하지만 물밑에선 자국 산업 보호를 위해 치열한 신경전을 펼치고 있는 게 엄중한 현실이다. 유럽연합(EU)이 디지털서비스법(DSA)을 도입하며 플랫폼 기업이 책임지고 불법·유해 콘텐츠, 가짜 뉴스, 서비스, 상품에 대응하는 체계를 갖추도록 한 명분은 ‘안전하고, 투명하고 믿을 수 있는 온라인 환경’이다. 불법·유해 콘텐츠나 가짜 뉴스 등이 확산하지 않도록 플랫폼 기업이 책임지고 빠르게 삭제하라는 것이다.

하지만 속내를 들여다보면 빅테크와 견줄만한 자국 기업이 없는 EU가 빅테크를 견제하면서 자국 기업을 육성하기 위해 내린 결단이었다는 시각도 적지 않다. 빅테크에 종속되지 않고 자국 모델을 육성해야한다는 ‘소버린 AI(Sovereign AI)’가 나오는 배경이다. 즉, 빅테크에 대한 EU 제재와 미국 제재는 기본적으로 성격이 다르다고 할 수 있다. 대다수 AI 기업을 보유한 미국은 그동안 자국 산업 보호에 앞장서 왔지만 최근 딥페이크를 활용한 성착취 사건이 쏟아지자 이 문제에 대해서만큼은 규제 강화로 방침을 세웠다는 분석이다.

정부정책 자문기관인 멀티스테이트의 보고서에 따르면 6월 말 기준 딥페이크 성착취 관련 법을 제정한 마국 주 정부는 27곳에 이른다. 지난해 12월 이후 법안을 발효한 곳이 20곳일 정도로 최근 들어서 빠른 속도로 입법이 이뤄지고 있다.

뉴욕타임스(NYT)에 따르면 지난해 10월에 뉴저지주 웨스트필드고등학교에서는 남학생들이 같은 학급의 10학년(14세) 여학생들의 실제 사진으로 딥페이크를 만들어 공유하고 유포한 사건이 지역사회에서 큰 파문을 일으켰다. 캘리포니아주 비버리힐스 고등학교를 비롯해 미국 전역에서 유사한 사건이 쏟아졌다. 딥페이크 사건이 미국 전역을 충격에 휩싸이게 만들면서 주정부에서 관련된 법을 만들기 시작한 것이다. 기존에 리벤지포르노(과거 연인의 성적인 사진이나 영상을 유포하는 것)이나 아동성착취에 대한 법에 딥페이크로 생성된 콘텐츠를 포함시키는 형태가 많았다.

최근 캘리포니아주 하원을 통과한 딥페이크 아동 성착취 금지법은 실제 인물이 아닌 AI가 생성한 아동의 이미지라도 금지시킨다는 점에서 더욱 강력해진 법이라는 평가다. 딥페이크 규제법은 역시 캘리포니아에서 추진 중인 포괄적인 AI 규제법인 SB1047과 달리 일반 개인에 대한 피해가 큰만큼 일사천리로 처리됐다.

이러한 흐름에 편승해 한국도 딥페이크의 유통통로가 되고 있는 빅테크 규제에 적극 나서야 한다는 목소리가 거세다.

그동안 한국은 미국과 외교분쟁 등 우려 때문에 빅테크에 대한 강력한 제재를 취하지 못했지만 최근 확산되고 있는 전세계적인 딥페이크 제재 분위기를 활용해 신속한 대응에 나서야 한다는 분석이다.

김윤명 한림국제대학원대학교 교수(법학박사)는 “미국은 더이상 자율 규제만을 선호하지 않고 사업자 규제 수위를 보다 더 강하게 높여가는 추세”라며 “이는 ‘안전이 보장된 AI’만이 지속가능성을 갖고 시장에 안착할 수 있다는 전제 조건이 깔린 움직임으로, 상대적으로 한국은 규제 정비 측면에서 더디다보니 시장의 불확실성만 키우고 있다”고 말했다. 그는 이어 “유해 딥페이크에 대한 새로운 법안을 또 만들기보다는 기존 법망의 테두리에서 부족한 지점이 무엇이 있는지를 명확하게 진단하고 이를 속도감있게 관련 부처가 함께 보완해 나가는 작업이 우선시돼야 한다”고 강조했다.