‘AI 학습’ DB서 아동 성착취물 웹링크 2000여개 삭제

비영리 DB업체 ‘라이온’ 조치
“불법음란물 처리규약 필요” 지적
톰 행크스, 딥페이크 광고에 경고
“내 닮은꼴 치료약 홍보, 속지 말라”
캘리포니아, 딥페이크 규제법 처리

딥페이크 성범죄 우려가 커지는 가운데 인공지능(AI) 학습에 사용되는 데이터베이스에서 아동 성 학대 이미지로 연결되는 웹링크가 2000개 넘게 삭제됐다.

AI 훈련용 데이터베이스 라이온(LAION)-5B. /라이온(LAION)-5B

지난달 30일(현지시간) AP통신에 따르면 비영리 오픈소스 이미지 데이터베이스 ‘라이온(LAION)’은 최근 미국 스탠퍼드대를 비롯해 캐나다 및 영국 기관들과 협업해 이 같은 조치를 취했다고 밝혔다. 라이온은 인터넷 공간의 각종 이미지를 분류한 뒤 텍스트를 이미지로 변환해주는 AI에 제공하는 데이터베이스다.

앞서 스탠퍼드대는 지난해 12월 라이온에서 최소 1000개 이상의 아동 성 학대 이미지를 발견했다는 보고서를 발표했다. 보고서의 책임 저자인 데이비드 티엘은 라이온의 이번 조치를 환영했지만, 다음 조치도 이어져야 한다고 지적했다. 전문가들은 아동 성 학대 콘텐츠와 당사자의 동의를 받지 않은 음란물을 AI 데이터베이스에서 걸러내고, 제거하기 위한 규약을 마련해야 한다고 주장하고 있다.

한편 할리우드 유명 배우 톰 행크스는 최근 AI 딥페이크 광고에 속지 말라고 대중에게 거듭 당부했다. 행크스는 지난달 29일 사회관계망서비스(SNS)에 “내 이름과 닮은꼴, 목소리를 이용해 기적의 치료법과 특효약을 홍보하는 광고가 인터넷에 여러 개 있다”며 “이런 광고들은 내 허락 없이 AI를 통해 사기성으로 만들어진 것”이라고 밝혔다. 행크스 외 영화 ‘어벤져스’로 유명한 배우 스칼릿 조핸슨도 지난해 11월 자신의 사진과 목소리를 AI로 합성해 제품 홍보에 쓴 회사를 상대로 법적 조치를 취하겠다고 밝힌 바 있다.

미국의 여러 주와 연방 의원들은 개인의 이미지나 음성이 딥페이크에 악용되는 것을 막기 위한 입법을 추진 중이다. 테네시주는 최근 개인의 이미지나 음성을 모방한 콘텐츠의 무단 사용을 규제하는 ‘음성·이미지 안전보장법’을 제정해 지난달부터 시행에 들어갔다. 지난해 10월 연방 상원의원들은 개인의 음성과 시각적으로 유사한 이미지를 AI나 다른 기술로 무단 생성하는 것을 막기 위한 초당적인 법안 ‘노 페이크스‘(NO FAKES) 법안을 발의했다.

미국 캘리포니아 주의회는 최근 AI 기술을 이용한 딥페이크를 규제하는 일련의 법안을 처리하기도 했다. 이 중 AI로 미성년자를 성 착취하는 내용의 딥페이크 제작 자체를 금지하는 법안이 포함됐다. 개리 뉴섬 주지사가 법안에 서명해 법이 시행되면 아동 성 착취물을 제작한 사람뿐 아니라, 배포나 소지한 사람도 처벌받게 된다.

조성민 기자 josungmin@segye.com