경찰 보디캠에 포착된 진상, 알고보면… AI로 만든 가짜

사회적 약자 편견·혐오 강화시켜
SNS서 기승… 시민에 시청 주의
경찰청 “공식 계정 확인” 당부

경찰 보디캠으로 경찰 출동 현장을 촬영했다는 인공지능(AI)을 활용한 동영상이 유튜브에 게시돼 있다. /유튜브 갈무리

인공지능(AI) 기술을 활용해 경찰을 사칭한 영상이 사회관계망서비스(SNS)에서 기승을 부리고 있어 시민들의 각별한 주의가 요구된다.

22일 유튜브와 인스타그램, 페이스북 등 SNS에 112 신고를 접수받고 출동한 경찰이 ‘보디캠’으로 촬영했다는 동영상이 다수 게시돼 있었다. 보디캠은 경찰의 가슴팍에 부착해 현장을 촬영하는 이동형 카메라다. 이 영상들은 형광 조끼나 경찰복을 입고 손에 무전기 등을 쥔 경찰의 가슴팍에서 보는 시선으로 촬영됐다.

유튜브 조회수 325만회를 기록한 한 영상은 식당에서 뛰어다니는 아이를 제재하라고 요구하는 여성과 “아이가 뛰어놀 수도 있지 왜 그러냐. 나에게 시비를 거는 것이냐”며 화를 내는 부모의 모습이 담겼다. 이 모습이 담긴 보디캠을 장착하고 있는 경찰은 이들을 진정시키며 싸움을 중재했다.

하지만 이는 AI로 제작한 허위 영상이다. 영상 제목과 설명에 AI로 제작했다는 안내가 없어 대부분의 누리꾼은 이를 실제 영상으로 착각했다. 해당 영상에는 “저런 몰상식한 부모는 당장 수갑을 채워 체포해야 한다”, “노키즈존이 필요한 이유” 등의 댓글이 달렸다.

일부 누리꾼은 “AI 영상은 인물의 손 움직임이 어색하고 이들의 시선이 어색한 경우가 있는데, 이를 모르는 사람이 이렇게 많은 줄 몰랐다”, “어르신들은 AI 영상과 실제 영상을 잘 구분하지 못할 텐데 잘못된 정보를 얻게 될까봐 걱정된다”고 우려하기도 했다.

이처럼 경찰을 사칭하는 AI 영상들은 노인과 아동, 여성 등 사회적 약자에 대한 편견과 혐오를 강화하고 있었다. 도시철도 임산부 배려석에 앉아 임산부에게 자리를 양보하지 않는 노인, 자동차 접촉 사고를 낸 뒤 상대방 차주에게 욕설을 퍼붓는 여성 등이 등장하는 AI 영상에는 노인과 여성을 비난하는 댓글이 달렸다. 음주단속을 피해 도주하는 시민에게 경찰이 욕설을 하거나, 시민을 향해 무분별하게 테이저건을 발사하는 등 경찰에 대한 신뢰를 떨어뜨릴 수 있는 영상도 있었다.

이에 대해 경찰청 관계자는 “경찰청 공식 홍보 영상에 종종 보디캠이나 폐쇄회로(CC)TV 영상을 활용하는 경우가 있어 이러한 AI 영상이 유포되는 것 같다”며 “이러한 영상을 시청할 때에는 경찰청이 운영하는 공식 계정에 업로드된 영상인지 살펴봐 달라”고 당부했다.

한편 다음 달 이른바 ‘AI 기본법’이라 불리는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’이 시행된다. 이 법안에는 AI로 제작된 결과물인지 시청자가 명확하게 인식할 수 있도록 표시해야 한다는 내용이 담겼다.

/정선아 기자 sun@kyeongin.com