SNS에 넘쳐나는 ‘AI 영상 정보’ 덜컥 믿었다간 큰일난다

딥페이크 범죄 발생 2022년 30건서 작년 296건으로 9배 넘게 ↑
연예인 거짓 뉴스·잘못된 투자 정보 등 범죄에 노출될 우려 높아

행안부 '딥페이크 불법콘텐츠 탐지 분석모델' 관련 정책 설명회.<행정안전부 제공>

"진짜인 줄 알고 속을 뻔했어요."

경기도에 거주하는 30대 여성 김모 씨는 이달 초 사진 및 동영상을 공유하는 소셜네트워크서비스(SNS)를 이용하다 충격을 받았다.

당시 김 씨가 본 2분 분량의 영상에는 미국의 유명 가수 A씨가 한국을 방문해 한국 문화를 체험하는 모습이 담겨 있었다.

A씨는 영상에서 "한국에 며칠 머물 것"이라고 말했다.

A씨의 팬인 김 씨는 즉시 그를 보기 위해 지인과 해당 장소를 방문하려 했고, "A가수는 한국에 오지 않았다"는 지인의 말이 아니었다면 꼼짝없이 속을 뻔했다.

비트코인 등의 가상화폐를 하고 있는 30대 박모 씨도 AI 기반 영상 때문에 가슴을 쓸어내린 적이 있다.

박 씨는 한 SNS에서 영상을 보던 중 자신이 보유한 가상화폐가 크게 오를 것이라는 내용의 영상을 접하고 추가 구매를 하려다 "AI 영상이니 속지 말라"는 네티즌의 댓글을 보고 황급히 구매창을 닫았다.

289만 명의 구독자를 보유한 인기 유튜버 침착맨도 최근 AI 불법 도박 게임 광고로 이미지 실추 등의 피해를 받았다.

이처럼 온라인 곳곳에서 AI 제작 영상이 실제와 똑같이 송출되면서 범죄에 악용될 우려가 있다는 목소리가 나온다.

인공지능윤리협회 소속 A씨는 "AI 기반 영상은 많은 이들에게 재미를 줄 수 있다는 등의 장점이 있지만 악용하면 잘못된 정보를 사람들에게 주게 된다"며 "이럴 경우 다수의 혼란을 부추기는 상황도 벌어지기에 AI 기반으로 제작된 영상 하단에 'AI 영상' 등 표시를 하는 방법이 필요하다"고 설명했다.

30일 경기남부경찰청에 따르면 최근 3년간 접수된 딥페이크(실제 사람의 얼굴 및 음성을 이용해 AI로 합성한 가짜 영상) 범죄 건수는 361건으로, 이 기간 190명의 피의자가 검거됐다.

특히 2022년 30건에 불과했던 딥페이크 범죄 발생 건수가 지난해 296건(886.6%)으로 훌쩍 증가하면서 딥페이크와 흡사한 AI 기반으로 제작된 영상으로 인한 범죄 발생 우려가 커지는 상황이다.

경찰 관계자는 "딥페이크 등 AI 범죄가 많이 발생하는 만큼 딥페이크 탐지 소프트웨어를 운영 중"이라며 "경찰은 현재 딥페이크 영상뿐만 아니라 딥보이스 등 음성 조작, AI 기술 기반 허위 콘텐츠까지 파악하는 복합 탐지 시스템을 개발 중"이라고 말했다.

김강우 기자 kkw@kihoilbo.co.kr