확산 주범 머스크의 X “AI가 하던 콘텐츠 검수 다시 사람에게 맡길 것”

소셜미디어 엑스(X·옛 트위터)를 소유한 일론 머스크 테슬라 최고경영자./로이터 연합뉴스

일론 머스크의 X(옛 트위터)가 딥페이크 등 불법 콘텐츠를 차단하기 위해 ‘콘텐츠 검수자’를 다시 채용한다. 인공지능(AI)을 활용해 ‘기술 대 기술’로 딥페이크를 차단하려는 시도가 한계에 부딪혔기 때문이다.

블룸버그는 28일(현지 시각) “X가 콘텐츠와 안전 규칙 시행을 돕기 위해 텍사스 오스틴에 새로운 ‘신뢰와 안전 센터’를 설립할 계획”이라며 “100명의 전임 콘텐츠 검수자를 고용하는 것을 목표로 할 것”이라고 보도했다. 머스크는 지난 2022년 X를 인수한 뒤 불법 콘텐츠 등을 검수하는 업무를 AI에 맡기면서 관련 부서 직원들을 대거 해고했다. 하지만 AI는 딥페이크와 아동 성 착취, 혐오 발언 등 불법 콘텐츠 유포를 제대로 막지 못했다. 선거 기간이 다가올수록 정치적 메시지를 던지는 유명인의 딥페이크가 활발하게 공유됐고, 이스라엘과 하마스 전쟁 발발 후 X를 통해 혐오 발언과 가짜 뉴스가 급속도로 퍼지는 등의 문제가 잇따랐다. 유럽연합(EU)이 X를 소셜미디어(SNS) 규제법 첫 공식 조사 대상에 올리자 콘텐츠 검수 업무를 다시 사람에게 맡기겠다고 나선 것이다.

빅테크들은 AI가 만들어낸 가짜 영상을 식별하거나 차단하는 기술을 내놓고 있다. 인텔은 사람 얼굴의 혈류 변화를 추적해 딥페이크 여부를 식별하는 ‘페이크캐처’를 개발했다. 영상 속 얼굴의 혈류 변화를 실제 인간과 픽셀 단위로 분석해 96%의 정확도로 진위 여부를 판단한다. 에스토니아의 AI 기업 ‘센티널’은 온라인에 업로드 된 딥페이크 영상을 분석해 원본과 어떤 점이 다른지를 직접 보여주는 탐지 기술을 개발했다.

하지만 이러한 딥페이크 탐지 기술은 AI가 기존의 탐지 기술을 회피할 수 있도록 학습하며 무력화되고 있다. 또 현실적으로 딥페이크 생성 자체를 막기는 어려워 테일러 스위프트 같은 사태가 언제든지 재연될 수 있다. 김명주 서울여대 바른AI연구센터장은 “과거에는 AI가 딥페이크 영상의 부자연스러운 부분을 찾아내는 식으로 탐지했지만 갈수록 딥페이크 영상이 원본처럼 자연스러워지면서 탐지가 어려워지는 상황”이라며 “시간이 지날수록 딥페이크 제작 시간이 짧아지고 가격이 저렴해지면서 딥페이크 영상의 확산 속도가 더 빨라질 것”이라고 했다.