팝가수 스위프트 ‘성착취’ 딥페이크까지…나델라 “안전장치 필요”

온라인서 ‘얼굴 합성물’ 퍼져…4700만회 이상 조회돼
MS의 AI 생성 도구 ‘디자이너’로 제작 의혹엔 무응답

세계적인 팝가수 테일러 스위프트의 얼굴을 합성한 ‘딥페이크’ 성착취물이 온라인을 통해 퍼지면서 큰 파장을 일으키고 있다. 마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO·사진)와 백악관까지 규제 필요성을 강조했다.

인공지능(AI) 산업 선두주자 중 하나인 MS의 나델라 CEO는 27일(현지시간) NBC 방송 인터뷰에서 스위프트 사건을 두고 “걱정스럽고 끔찍하다”고 말했다. 그는 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”면서 안전장치가 필요하다고 강조했다. 그는 “온라인 세상을 안전한 환경으로 만들어야 우리 모두에게 이롭다고 생각한다”면서 “AI 기술과 관련한 안전장치를 마련해 안전한 콘텐츠가 생산될 수 있도록 하는 것은 우리의 책임이다. 법과 집행 기관, 기술 플랫폼이 함께할 때 더 많은 것을 규제할 수 있다”고 덧붙였다.

앞서 MS는 스위프트의 딥페이크 이미지가 MS의 AI 생성 도구인 ‘디자이너’로 만들어졌다는 의혹이 제기되자 이를 조사하겠다고 밝혔다. 그러나 나델라 CEO는 인터뷰에서 해당 의혹에 대해 언급하지 않았다.

최근 사회관계망서비스(SNS)에서는 스위프트 사진을 합성해 노골적으로 성적 대상화하는 딥페이크 이미지가 빠르게 확산됐다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술 기반으로 만든 가짜 이미지·오디오·비디오 등을 뜻한다.

현재 해당 이미지를 올린 SNS 계정들이 삭제돼 검색과 조회는 불가능하지만, 삭제 전까지 4700만회 이상 조회된 것으로 알려졌다. 엑스(X·옛 트위터)는 첫 게시글이 올라온 지 19시간이 지난 뒤 사진이 공유된 다수 계정을 정지했지만 이미 ‘공유’ 기능을 타고 다른 SNS까지 빠르게 확산됐다.

커린 잔피에어 백악관 대변인은 전날 브리핑에서 이번 사태가 “매우 우려스럽다”면서 “(가짜 이미지 등의 확산을 막을) 규칙의 부재는 슬프게도 여성과 청소년에게 더 큰 영향을 미친다”고 말했다. 그는 “조 바이든 대통령은 지난해 행정명령을 발표하는 등 생성형 AI가 생산한 이미지로 인한 위험을 줄이기 위해 노력하고 있다. 우리는 계속해서 필요한 조치를 취할 것이며 의회의 입법도 필요하다”고 밝혔다.

현재 미국 9개 주에서는 AI 기술로 타인의 모습을 합성한 딥페이크 사진을 당사자 동의 없이 만들거나 공유하는 것을 법으로 금지하고 있다. 하지만 연방정부 차원의 규제는 없는 상황이라고 외신들은 전했다.

AI 기술이 성착취물에 활용돼 충격을 준 것은 처음이 아니다. 지난해 미 뉴저지주의 한 고교에서 남학생 2명이 교내 여학생들의 딥페이크 나체 사진을 만들어 유포한 사건이 알려져 충격을 줬다. 스페인에서도 AI로 만들어진 10대 여학생들의 나체 사진이 온라인상에 유포돼 20명 이상이 피해를 겪었다.

대니얼 시트론 미 버지니아대 법학전문대학원 교수는 CNN 인터뷰에서 “유명인만 아니라 평범한 사람들 모두가 피해에 노출돼 있다”면서 “다른 사람들이 나를 성적으로 대상화하는 데서 (피해자들이) 느끼는 모욕감은 그들의 사회적 자존감에 큰 타격을 준다”고 말했다.

최혜린 기자 cherin@kyunghyang.com