AI 딥페이크 논란 확산···빅테크 대응책 고심

[사진= 전자신문 DB]

인공지능(AI)을 활용한 딥페이크(합성)가 사회 문제로 떠올랐다.

블룸버그와 AFP통신에 따르면 엑스(X·구 트위터)는 아동 성 착취물 등 불법 콘텐츠를 단속할 '신뢰와 안전 센터'를 텍사스주에 신설한다. 이를 위해 콘텐츠 관리자 100명을 정규 채용할 예정이다.

센터는 아동 성 착취물 관련 자료를 단속한다. 또 혐오 발언이나 폭력적 내용의 게시물을 규제하는 플랫폼 정책 실행에 기여한다.

이보다 앞서 지난 26일 X는 아동 성 착취물에 대해서는 무관용 원칙을 적용하겠다고 자사 블로그에 공지한 바 있다.

X는 일론 머스크 테슬라 최고경영자(CEO)가 최대주주다. 최근 X는 미국 팝스타 테일러 스위프트의 AI 딥페이크 이미지 확산 창구로 활용돼 곤욕을 치렀다.

딥페이크는 영어 단어 딥러닝과 페이크(가짜) 합성어다. AI 기술을 기반으로 창조한 가짜 이미지, 오디오, 비디오 등을 의미한다.

스위프트 딥페이크는 스위프트의 얼굴과 노골적 자세를 합성했다.

불똥은 마이크로소프트(MS)에도 튀었다. 스위프트 딥페이크가 MS의 AI 기반 생성 도구 '디자이너'로 만들어졌다는 주장이 제기됐기 때문이다.

MS는 즉각 조사에 착수했다. 사티아 나델라 MS CEO는 최근 한 방송사와 진행한 인터뷰에서 스위프트 딥페이크와 관련해 “놀랍고 끔찍하다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

그러면서 “기술에 안전장치를 설치해 안전한 콘텐츠가 더 많이 생산될 수 있도록 해야 하고, 이미 상당히 진행되고 있다”면서 “법과 집행 기관, 기술 플랫폼이 함께 할 때 훨씬 더 많은 것을 규제할 수 있다”고 덧붙였다.

딥페이크 문제가 대두된 것이 처음은 아니다. 지난 2018년에는 버락 오바마 전 미국 대통령이 도널드 트럼프 당시 미국 대통령에게 욕하는 페이크 영상이 유튜브를 통해 확산했다. 온라인 매체 버즈피드가 딥페이크 위험성을 알리기 위해 교묘하게 제작해 배포한 것이다.

딥페이크를 강력 규제해야한다는 목소리도 거세지고 있다. 미국에선 딥페이크 사진을 당사자 동의없이 만들거나 공유하는 것을 금지하는 주가 9곳에 불과하고, 연방 정부 차원 규제는 없는 실정이다.

류태웅 기자 bigheroryu@etnews.com