[脫혐오사회] 30일 새벽 '비상 대응령' 발동…숨가빴던 네이버·카카오의 12시간

유해 게시물 대응 조직 비상 대응, 차단 후 이의제기
신고 접수된 게시물 노출 차단...작성자 서비스 제한 조치도

편집자주 - 사상자 307명, 사망 155명, '이태원 참사'로 전 국민이 큰 충격을 받은 이때, 해묵은 '혐오'가 다시 꿈틀대고 있다. 종류도 유형도 다양하다. 정부가 피해자 지원 방침을 내놓자 "춤추고 놀러 갔다가 사고 났는데 왜 내가 낸 세금을 쓰냐"는 반응부터 "단체로 나온 중국인들이 밀었다"는 근거 없는 의혹과 인종·성별 갈라치기가 기승을 부린다. 혐오 게시물에는 가해자도 피해자도 존재하지 않는다. 가해자는 또 다른 혐오 가해자에 의해 피해자로 전락하고 전염병처럼 순식간에 번져 나간다. 결국 이를 막을 수 있는 것은 우리 사회의 자정 노력뿐이다. 참사 이후 숨 가빴던 우리의 이틀을 되돌아보며 혐오 사회를 벗어나 우리가 어디로 가야 할지를 살펴봤다.

"핼러윈 파티가 진행 중인 이태원에서 압사 사고가 발생했습니다. 선정적인 영상, 사진은 물론 악의적인 루머, 혐오 발언 등이 예상되니 모두 모니터링 강화 바랍니다."

30일 새벽 '비상 대응령' 발동

[아시아경제 최유리 기자] 29일 자정께 이태원 압사 사고 관련 소식이 하나둘 전해지며 유해 게시물을 관리하는 네이버 이용자보호파트와 카카오 모니터링 전담팀은 비상 대응령을 발동시켰다. 365일 24시간 신고 접수된 게시글을 살펴보고 조치하지만, 이번 사태처럼 사회적 파장이 크고 2차 피해가 우려되는 경우 비상 대응에 들어간다.

긴박한 상황이 이어지던 30일 새벽, 모자이크나 흐림 처리 등의 조치를 하지 않은 현장 사진과 영상, 사고와 관련해 확인되지 않은 사실 등이 온라인상에 빠르게 퍼지면서 모니터링을 하는 두 회사 직원들은 더 분주해졌다. 인공지능(AI)으로 걸러낼 수 있는 이미지에는 극히 선정적이거나 음란물에 준하는 게시물들이 대부분이다. 평상시 같으면 유해 게시글 작성자에게 이의를 제기하는 이들이 많지만, 새벽 시간이라 신고 건수도 많지 않아 일일이 영상을 차단하고 이용자들이 볼 수 없도록 가려 놓는 일을 해야 했다.

사고와 관련해 확인되지 않은 사실들이 퍼지는 것 역시 원천 차단하는 것은 불가능했다. 방송사들도 현장에 있는 시민들의 전화 인터뷰를 여과 없이 내보내고 있던 상황이 이어졌다. 현지 상황을 잘 모르는 이용자들이 피해자들을 향해 독설을 쏟아내고, 다시 이를 반박하는 글들이 이어지며 '혐오'와 '증오', 세대·성별 간 갈등을 조장하는 악성 댓글들까지 등장하며 상황은 걷잡을 수 없을 정도로 커졌다.

30일 정오 '이태원 사태' 긴급 공지 후, 유해 게시물 집중 차단

30일 정오 네이버와 카카오는 이태원 사태 비상 대응령 발동 12시간 만에 게시글 관련 긴급 공지를 올렸다. 참사 현장 사진, 영상을 최대한 자제하고 허위 사실 등의 유포를 중단해 달라는 권고사항을 게시했다. 이후 쏟아지는 신고 건들을 처리하고 검색, 기획, 사업팀 등 유관부서를 총동원해 유해 게시물을 찾아 차단하기 시작했다. 선정적인 사진과 영상들은 하나둘씩 자취를 감췄고 혐오와 증오를 담은 댓글들은 가림 처리됐다.

네이버는 모니터링 전담팀과 긴급신고센터에서 유해 게시물 대응을 맡고 있다. 유해 게시물로 인한 피해를 최소화하기 위해 신고가 들어오면 모니터링 후 해당 게시물을 차단하고 추후 작성자에게 이의 제기를 받는다. 음란 게시물에 대해선 실시간으로 이미지를 감지해 노출을 막는 AI 기술 '엑스아이(X-eye)를 적용 중이다. 이태원 참사 이후 네이버는 게시물 모니터링을 강화하고 있다. 지난 30일부터 카페, 블로그 등 커뮤니티 공지를 통해 약관에 위배되는 콘텐츠들은 신고 절차를 통해 처리하도록 안내하고 있다.

이태원 대형 압사 참사로 인한 국가애도기간이 이어지고 있는 1일 서울 용산구 이태원 참사 현장에 경찰병력이 출입을 통제하고 있다./강진형 기자aymsdream@

카카오, '오픈 채팅'도 노출 차단…신고 누적 시 이용자 아이디 정지

카카오는 이용자보호파트를 중심으로 대응 중이다. 평상시에는 유선, 온라인으로 신고를 받은 뒤 대응하지만, 이번 사태처럼 중대 이슈가 발생하면 능동 모니터링에 돌입한다. 신고가 접수된 게시물은 노출을 차단한다. 특정 게시물이나 댓글뿐 아니라 문제 콘텐츠를 무분별하게 공유한 카카오톡 오픈채팅도 검색 결과에 노출하지 않는 등 조치 대상이 된다. 댓글의 경우 신고가 없더라도 운영 정책을 위반한 경우 '세이프봇'의 인공지능(AI) 기술로 분석해 블라인드 처리한다.

신고가 누적될 경우 해당 게시물을 올린 이용자에 대해서도 조처를 한다. 카카오톡에선 친구 목록에서 검색 및 노출 제한부터 메시지 전송 제한, 채팅방 이용 제한, 서비스 전체 이용 제한까지 일시적·영구적으로 가능하다. 다음에선 아이디를 일시 또는 영구 중지할 수 있다.

카카오 관계자는 "이용자보호파트와 유관부서가 주말부터 비상 대응에 들어갔다"며 "모니터링을 강화하는 한편 외부 기관과 협업해 콘텐츠 규제 가이드라인 등 이용자보호 정책을 만들고 있다"고 말했다.

페이스북, 트위터 등 주요 SNS도 대응에 나섰다. 트위터는 머신러닝 등을 이용해 운영원칙을 위반하는 콘텐츠를 식별·삭제하고 있다. 악성 게시물에 대한 신고를 접수하며 해당 콘텐츠를 모니터링하는 트위터 운영원칙 시행팀을 운영 중이다. 페이스북도 자체 가이드라인과 악용 사례 신고 채널을 통해 조치하고 있다.

최유리 기자 yrchoi@asiae.co.kr