AI '이중잣대'…비서구권·개발도상국 가짜뉴스 탐지 힘들어

데이터 부족·저품질로 인한 AI 탐지 기술 훈련 한계…지역 언론·시민단체 지원 필요해

(지디넷코리아=조이환 기자)인공지능(AI) 가짜 콘텐츠 탐지 툴이 비서구권 개발도상국에서는 제대로 작동하지 않아 기술 불균형 문제가 발생하고 있다.

3일 와이어드에 따르면 시장에 출시된 AI 탐지 툴 대다수가 서구권 언어와 얼굴 데이터에 편중돼 비서구권 국가에서는 정확도·탐지오류가 발생하고 있다.

실제로 AI 탐지 툴은 서구권에서 높은 신뢰도를 보이지만 비서구권에서는 미디어의 품질과 데이터 부족으로 인해 정확도가 크게 떨어진다. 이로 인해 가짜 콘텐츠를 실제 콘텐츠로 오인하거나 반대로 실제 콘텐츠를 AI 생성물로 잘못 판단하는 사례가 빈번히 발생하고 있다.

인공지능(AI) 가짜 콘텐츠 탐지 툴이 비서구권 개발도상국에서는 제대로 작동하지 않아 기술 불균형 문제가 발생하고 있다. (사진=달리 제작)

특히 비서구권 개발도상국에서는 저렴한 중국산 스마트폰으로 촬영된 저품질 사진과 비디오가 많아 AI 탐지 모델이 이를 인식하는 데 어려움을 겪고 있는 것으로 알려졌다. 이러한 품질 저하와 AI 모델의 민감성 때문에 탐지 과정에서 오류가 발생할 가능성이 높아진다.

또 AI 탐지 모델을 훈련시키기 위한 데이터와 자체가 부족해 기술적 한계가 더욱 가중되고 있다. 실제로 개발도상국 디지털 문제에 중점을 두고 활동하는 단체인 '스레츠(Thraets)'는 아프리카에서 생산되는 대부분의 정보·데이터가 인쇄물로만 발간된다고 밝혔다. 이로 인해 의심스러운 콘텐츠를 검증하는 데 오랜 시간이 걸리며 그 사이 허위 정보가 확산되고 있다.

이에 AI 탐지 기술에 지나치게 의존하기보다는 비서구권 정보 생태계 강화를 위한 지역 언론 매체 및 시민 단체 지원이 필요하다는 지적이 나온다. 이러한 접근법이 정보의 신뢰성을 높이고 허위 정보의 확산을 방지하는 데 기여할 수 있기 때문이다.

개발도상국 기술정책 발전을 연구하는 테크 글로벌 인스티튜트(Tech Global Institute)의 사바즈 라디즈 디야 연구원은 "AI 탐지 기술이 특정 지역에 치우친 탓에 비서구권에서는 그 효과가 미미하다"며 "기술적 대응뿐만 아니라 정보 생태계 자체를 강화하는 노력이 필요하다"고 강조했다.

조이환 기자(ianyhcho@zdnet.co.kr)