영국, AI 딥페이크 '비동의 성적 이미지' 제작만 해도 처벌

구글 제미나이로 생성한 이미지

12일 파이낸셜 타임즈 등은 영국 정부가 인공지능(AI)을 이용해 당사자 동의 없이 성적 이미지를 생성하는 행위를 범죄로 규정하는 법안을 추진한다고 보도했다. 최근 일론 머스크가 개발한 AI 챗봇 '그록(Grok)'이 비동의 성적 딥페이크 제작에 악용됐다는 논란이 커지자 강경 대응에 나선 것이다.

영국 정부는 비동의 친밀 이미지의 유포뿐 아니라 '생성 행위' 자체를 불법으로 규정하는 내용을 온라인 안전법과 향후 범죄·치안법에 포함시킬 계획이라고 밝혔다. 기존 법이 주로 유포에 초점을 맞췄던 데에 비해 한 단계 더 나아간 조치다.

영국 미디어 규제기관 오프콤은 이미 그록이 이미지 기반 성적 남용이나 아동 성착취 콘텐츠 생성에 사용됐는지를 두고 조사에 착수했다. 조사 결과 플랫폼이 안전 의무를 제대로 이행하지 않은 것으로 드러날 경우, 운영사인 X는 최대 1,800만 파운드(약 300억 원) 또는 전 세계 매출의 10%에 달하는 벌금을 부과받을 수 있다.

이번 법안이 시행되면 AI를 활용해 실제 인물의 얼굴을 합성하거나 조작해 성적 이미지나 영상을 만드는 행위만으로도 처벌 대상이 된다. 정부는 특히 여성과 아동을 겨냥한 디지털 성범죄를 막기 위한 조치라고 설명했다.

키어 스타머 영국 총리는 "기술 발전이 범죄를 돕는 수단이 되어서는 안 된다"며 "플랫폼이 책임을 다하지 않는다면 정부는 신속하게 개입할 준비가 돼 있다"고 밝혔다.

한편 X 측은 논란 이후 그록의 이미지 생성 기능을 일부 제한했지만, AI 기술의 통제와 표현의 자유를 둘러싼 논쟁은 계속되고 있다. 전문가들은 "AI 생성물에 대한 법적 책임을 명확히 하지 않으면 유사 범죄는 더 빠르게 확산될 것"이라고 경고했다.

YTN digital 정윤주 (younju@ytn.co.kr)

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]