‘AI 누드합성 금지法’ 막으려던 머스크 일단 좌절했지만…美 법무부는 주정부 AI 규제에 제동

일론머스크(로이터=연합뉴스)

미국 미네소타주가 인공지능(AI)을 이용한 나체 이미지 생성 등을 규제하는 법을 둘러싸고 일론 머스크가 이끄는 xAI와 벌이는 법정 공방에서 일단 승기를 잡았다. 연방법원은 xAI가 요구한 법 집행 정지 가처분을 받아들이지 않았다.

다만 연방정부는 미네소타주 법이 연방법보다 지나치게 광범위하게 적용될 수 있다며 사실상 xAI 측의 핵심 문제 제기에 힘을 실었다. 주정부의 AI 규제가 연방정부가 마련한 기준을 넘어서는 데 대해서도 명확한 경계심을 드러냈다.

미네소타 연방지방법원의 도너번 프랭크 판사는 4일(현지시간) xAI가 제기한 예비 금지명령 신청을 기각했다. 이에 따라 지난 8월 1일 발효된 미네소타주의 이른바 ‘AI 누드화(nudification) 금지법’은 본안 소송이 진행되는 동안에도 시행될 수 있게 됐다.

이 법은 AI를 이용해 실제 인물의 사진을 성적으로 변형하거나 가짜 나체 이미지를 만드는 행위를 막기 위해 마련됐다. 웹사이트나 앱 등 기술 제공자가 이용자의 이런 행위를 허용할 경우 위반 건당 최대 50만 달러의 민사상 제재를 받을 수 있다.

xAI는 이 법이 표현의 자유를 보장하는 미국 수정헌법 제1조를 침해한다고 주장했다. 특히 법이 이미지가 실제로 유포됐는지, 당사자가 동의했는지, 플랫폼이 해당 행위를 알고 있었는지 등을 충분히 구분하지 않은 채 기술 제공자에게 폭넓은 책임을 물을 수 있다고 문제 삼았다.

프랭크 판사는 이번 결정에서 법의 위헌 여부를 최종 판단하지 않았다. 대신 xAI가 법 시행으로 즉각적이고 회복하기 어려운 피해를 입는다는 점을 충분히 입증하지 못했다고 봤다. 또한 xAI가 법 시행을 불과 며칠 앞두고 가처분을 신청한 점도 판단에 영향을 미쳤다. 판사는 AI를 이용한 비동의 성적 이미지와 아동 성착취물 등으로 발생하는 피해를 언급하며 공익 측면에서도 법 집행을 중단할 이유가 충분하지 않다고 판단했다.

이번 사건에서 주목할 대목은 미국 연방정부의 개입이다.

미 법무부는 지난달 18일 법원에 ‘이해관계인 의견서(statement of interest)’를 제출했다. 법무부는 미네소타주의 목적 자체, 즉 AI를 이용한 성적 이미지 악용과 성착취를 막겠다는 취지에는 공감하면서도 법안의 규제 범위가 연방법보다 지나치게 넓다고 지적했다.

법무부는 미네소타주 법이 연방법과 달리 ▶‘친밀한 신체 부위’의 범위를 지나치게 넓게 규정하고 ▶이용자의 고의나 플랫폼의 인식 여부를 따지지 않는 책임을 부과하며 ▶성인이 자기 자신의 이미지를 변형하는 경우까지 적용될 수 있고 ▶공익적 관심사나 의료·과학·교육 목적 등에 대한 명확한 예외도 두지 않았다고 지적했다.

법무부는 구체적인 사례까지 제시했다. 예컨대 셔츠를 입지 않은 성인의 수영장 사진을 AI로 생성하는 경우 연방법상 규제 대상이 아닐 수 있지만, 미네소타주 법에서는 ‘친밀한 신체 부위’에 대한 광범위한 정의 때문에 규제 대상이 될 수 있다는 것이다.

연방정부는 이미 연방법을 통해 비동의 성적 이미지 문제를 규제하고 있다는 점도 강조했다. 특히 도널드 트럼프 대통령이 2025년 서명한 ‘TAKE IT DOWN Act’는 비동의 친밀 이미지와 디지털 위조물을 대상으로 하면서, 플랫폼에 신고된 콘텐츠를 일정 시간 안에 삭제하도록 하는 방식으로 규제한다. 법무부는 이처럼 연방법이 고의성, 비동의 여부, 유통 행위 등을 중심으로 보다 구체적으로 규율하고 있다고 설명했다.

연방정부의 메시지는 단순히 xAI를 지원하는 데 그치지 않았다.

법무부는 이번 의견서에서 트럼프 행정부가 추진해온 ‘하나의 국가적 AI 기준’​이라는 정책 방향도 강조했다. 각 주가 서로 다른 AI 규제를 쏟아낼 경우 미국 내에서 이른바 ‘50개의 서로 다른 AI 규제’가 만들어질 수 있으며, 이는 미국의 AI 산업과 국가 경쟁력에 부담이 될 수 있다는 취지다.

즉 연방정부는 “AI를 이용한 성착취와 비동의 성적 이미지 문제를 방치하자”는 입장이 아니다. 오히려 연방법으로 해당 문제를 규제하되, 개별 주가 연방법보다 훨씬 광범위한 규제를 독자적으로 만들어 AI 산업과 표현의 자유를 과도하게 제한해서는 안 된다는 것​이 이번 법무부 의견서의 핵심이다.

다만 법무부가 이번 사건에서 xAI의 가처분 신청을 직접 지지한 것은 아니다. 법무부는 가처분을 인용할지 여부 자체에는 입장을 밝히지 않고, 미네소타주 법이 연방법보다 광범위하고 헌법적 문제가 발생할 수 있다는 점에 초점을 맞췄다.

미네소타주 정부는 이에 맞서 법의 필요성을 강조하고 있다. 키스 엘리슨 법무장관은 누드화 기술이 실제 인물에 대한 괴롭힘뿐 아니라 아동 성착취물 생성에도 악용되고 있다며 법을 강하게 옹호하고 있다. 이 법은 주 의회에서 압도적인 초당적 지지를 받아 통과됐다.

xAI는 법원의 결정에 항소하겠다는 뜻을 밝혔다. 이에 따라 앞으로의 본안 소송에서는 단순히 ‘AI로 만든 나체 이미지가 유해한가’라는 문제를 넘어, 주정부가 어디까지 AI 생성 기술 자체를 규제할 수 있는지, 연방정부의 AI 규제 권한과 주정부의 입법 권한이 어디에서 충돌하는지, 그리고 표현의 자유가 AI 생성물에도 어느 범위까지 적용되는지​를 둘러싼 헌법적 논쟁이 본격화될 전망이다.

김광태 기자 ktkim@dt.co.kr