존재감 옅어지는 위기의 페이스북

[경향신문]
틱톡에 10대 이용자 뺏기고
AI는 유해물 걸러내지 못해
내부선 문제제기, 외부 비판

혐오 발언과 과도한 폭력 등 유해 콘텐츠를 신속히 삭제하기 위해 도입한 페이스북의 인공지능(AI)이 제 기능을 못한다는 내부 평가가 공개됐다. 10대 가입자의 외면, 애플의 정책에 따른 광고 수익 감소에 이어 내부 폭로까지 불거지면서 페이스북이 내우외환에 시달리고 있다는 목소리가 나오고 있다.

미국 월스트리트저널이 17일(현지시간) 보도한 2019년 페이스북 내부 문건에 따르면 페이스북 AI는 ‘1인칭 총격’ 영상과 혐오 발언을 감지하지 못할 뿐 아니라 잔혹한 닭싸움, 교통사고 영상조차 걸러내지 못했다. 2019년 3월 뉴질랜드에서 한 테러리스트가 이슬람 사원을 공격하면서 자신의 총격 범행을 1인칭 시점으로 페이스북에 생중계한 일을 계기로 AI를 활용해 1인칭 총격 영상을 걸러내려 했지만 실패했다. 심지어 AI는 페인트볼을 쏘는 서바이벌 게임이나 세차 장면을 1인칭 총격과 혼동했다.

같은 해 내부 감사 결과 페이스북 규정을 위반한 혐오 발언이 전체의 약 2%만 감지·삭제되는 것으로 나타났다. 감지 대상을 폭력과 선동이 포함된 모든 규정 위반 콘텐츠로 확대하면 AI가 걸러낸 게시물은 0.6%에 불과했다. 2018년에는 잔혹한 자동차 충돌사고와 싸움닭 영상이 확산 중이라는 점을 파악, 이를 삭제하려 했다. 그러나 몇 주에 걸친 노력에도 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못했다.

가입자가 29억명에 이르는 세계 최대 소셜미디어 페이스북은 잇따른 내부 폭로와 외부 비판에도 시달리고 있다. 최근에는 함께 운영하고 있는 인스타그램이 청소년 정신건강 유해 가능성을 지적하는 자체 조사 결과를 무시했다는 내부고발자의 폭로가 나오면서 이에 대한 상원 청문회가 열리기도 했다.

소셜미디어의 미래를 상징하는 10대 이용자가 감소하는 것에 대한 우려도 나온다. 페이스북은 미국 10대의 외면을 받은 지 오래고, 인스타그램에서라도 10대를 붙잡기 위해 노력하고 있다. 뉴욕타임스는 지난 16일 페이스북 내부 문건을 인용해 인스타그램이 10대 이용자를 다른 SNS에 빼앗기지 않기 위해 2018년 6720만달러(약 795억원)였던 마케팅 예산을 올해 3억9000만달러(약 4616억원)로 약 5배 늘렸다고 보도했다. 하지만 금융서비스업체 파이퍼샌들러 조사 결과 미국의 10대는 소셜미디어 중 스냅챗(35%), 틱톡(30%)을 더 선호했고, 인스타그램을 선호한다는 응답은 22%에 그쳤다.

주수입원인 광고 수익에도 타격이 예상된다. 애플은 최근 아이폰에 적용되는 운영체제 업데이트를 통해 사업자가 이용자의 활동기록을 활용하려면 사전 승인을 얻도록 했다. 페이스북은 활동기록을 이용한 ‘맞춤형 광고’를 하고 있다.

조미덥 기자 zorro@kyunghyang.com