"고 노무현 대통령 혐오 AI 자동감지 시스템으로 잡아낸다"

노무현 재단 "AI 자동 감지와 시민 제보의 이중 축으로 사람사는세상 가치 복원하겠다"

[이영일 기자]

▲ 노무현재단이 15일부터 ‘노무현 대통령 온라인 혐오 표현 AI 모니터링’ 시스템을 본격 가동했다 ⓒ 노무현재단

고 노무현 대통령을 대상으로 한 온라인 혐오 콘텐츠에 대해 사람사는세상 노무현재단(아래 노무현재단)이 '노무현 대통령 온라인 혐오 표현 AI 모니터링' 시스템을 본격 가동했다.

노무현재단은 17일, 온라인 공간에서 노무현 대통령을 소재로 한 혐오 콘텐츠가 '놀이'를 빙자해 소비·확산되고 있다며 "민주주의 가치 훼손에 대응하기 위해 AI 기반 온라인 혐오 표현 모니터링과 시민 제보 페이지 운영을 시작한다"고 밝혔다.

그동안 온라인상에서는 고인을 희화화하거나 조롱하고 비방, 혐오하는 콘텐츠들이 반복해서 게시돼 왔다.

"혐오가 일상적으로 소비되며 고착화, 우리 사회 민주주의 가치 훼손"

▲ 그동안 온라인상에서는 고 노무현 대통령을 대상으로 한 혐오 콘텐츠들이 반복해서 게시돼 왔다. ⓒ 노무현재단

노무현재단은 "유희화된 혐오가 인권 침해에 대한 사회적 감수성을 약화시키고 사회적 약자에 대한 차별과 혐오가 용인되는 분위기를 조성하는 데 영향을 미친다"며 이같은 혐오가 일상적으로 소비되며 고착화되는 현상이 우리 사회의 민주주의 가치를 근본적으로 훼손한다고 비판했다.

노무현재단은 지난해 진행한 노무현 대통령 사례 중심의 온라인 혐오 표현 기초 연구를 바탕으로 '차별 없는 사람사는세상을 위한 5대 대응 방안'을 수립했다. 해당 대응 방안은 ▲ 법적 대응 강화 ▲ 온라인 플랫폼·커뮤니티 대응 ▲ 디지털 인권 교육 ▲ 정책 및 입법 활동 ▲ 공익 캠페인으로 구성된다.

AI 자동 감지와 시민 제보 시스템 이중 축으로 혐오 모니터링

황희두 노무현재단 이사는 17일 자신의 SNS를 통해 " 이명박 정부 당시의 심리전을 시작으로 오랜 기간 물량 공세가 이어졌고 '가랑비 옷 젖듯' 확산되며 청소년 놀이 문화로 자리잡았다. 지난해 2월, 2343건의 시민 제보를 계기로 정준희 한양대 정보사회미디어학과 겸임교수님과 미디어 전문가들의 연구가 이어졌고 그 성과를 바탕으로 'AI 자동 감지 시스템'과 '시민 제보 페이지'가 출범하게 됐다"고 설명했다.

이번 사업은 'AI 자동 감지'와 시민 제보 시스템을 이중 축으로 가동하는 것이 골자다. AI 시스템은 온라인 공간을 상시 모니터링하며 사자명예훼손, 모욕, 허위 정보 및 왜곡, 혐오 표현 등을 포착한다. 여기에 시민 제보 시스템을 연계해 AI가 놓치기 쉬운 사례까지 수집한다는 방침이다.

시민 제보는 노무현재단 홈페이지에서 누구나 참여할 수 있다. 노무현재단은 수집된 데이터를 통합 분석해 해당 플랫폼에 삭제를 요청하는 등 실효성 있는 대응에 집중할 계획이다.

황 이사는 "무엇보다 이 대응이 실효성을 가지려면 더 많은 시민들이 제보센터의 존재를 인지하고 참여하도록 알리는 게 중요하다. 각 플랫폼에서 노무현 대통령을 향한 사자명예훼손이나 혐오 표현을 보셨다면 가볍게 넘기지 마시고 노무현재단 제보센터 링크를 주변에 알려주시길 부탁드린다"고 전했다.

한편, 모니터링을 통해 수집된 자료는 향후 법률 대응 검토 및 온라인 혐오 문화 개선을 위한 정책 제안의 근거로 활용된다.

노무현재단은 이번 사업에 대해 "전직 대통령의 명예를 보호하는 동시에 우리 사회가 지켜야 할 민주적 가치와 사람사는세상의 원칙을 회복하기 위한 노력"이라며 앞으로도 시민사회 및 관계 기관과 협력해 온라인 혐오 문화에 책임감 있게 대응하겠다고 밝혔다.