AI가 만든 디지털 쓰레기에 고심하는 포털…"매일 수십만건 생성, 95%가 스팸"

네이버, 자체 AI 시스템으로 AI 작성 글 걸러
AI 콘텐츠 식별 기술, 시장 수요 빠르게 증가

[그래픽=제미나이 생성] 

생성형 인공지능(AI) 확산으로 저품질 자동 생성 콘텐츠가 늘어나면서 포털 업계의 대응 부담이 커지고 있다. 키워드 몇 개만 입력하면 대량의 게시물을 자동 생성하는 이른바 ‘AI 따발총’ 방식이 확산되면서, 검색 노출을 노린 스팸·광고성 콘텐츠가 빠르게 늘어나는 추세다. 

5일 네이버의 그린인터넷 운영 리포트에 따르면, 지난해 하반기 네이버가 운영정책 위반으로 제재한 게시물 가운데 95%가 스팸 및 홍보성 콘텐츠로 나타났다. 대부분이 생성형 AI로 만들어진 콘텐츠들이다. 나머지는 청소년 유해 콘텐츠(1.2%), 욕설·차별·혐오 표현(1.1%) 등으로, 상대적으로 비중이 낮았다. 사실상 제재 대상의 대부분이 광고성·저품질 콘텐츠에 집중된 셈이다.

AI가 만들어낸 스팸성 게시물의 종류도 다양해지고 있다. 자동 생성된 후기를 비롯해 검색엔진에 잘 노출될 수 있도록 무의미한 키워드만 반복하는 경우도 있다. 여기에 더해 별다른 관련이 없는 외부 사이트 유입을 유도하는 문구를 넣는 경우도 많아 검색의 질까지 떨어뜨린다. 

검색 결과의 신뢰도를 저하시켜 이용자의 정보 탐색 효율을 떨어뜨리고 플랫폼 전반의 콘텐츠 품질까지 훼손하고 있다. 저품질 정보가 누적될수록 이용자 신뢰가 약화되고 포털은 관리 부담이 커지는 악순환으로 이어질 수 있다. AI로 대량의 스팸 콘텐츠를 만든 뒤 이를 클릭으로 유도해 광고 수익을 얻겠다는 사람들은 계속 늘어나고 있다. 일부 유튜브 채널에서는 블로그 게시판 등에 생성형 AI로 만든 콘텐츠를 자동으로 올리는 방법들을 공유하고 있다.

포털은 AI를 활용해 AI 콘텐츠를 통제하는 방식으로 대응하고 있다. 네이버는 다양한 AI 시스템을 통해 게시물을 사전 탐지·차단하고 있으며, 지난해 하반기 기준 전체 제재 게시물의 91.2%를 AI로 처리한 것으로 집계됐다. 인력은 AI가 걸러내지 못한 일부 사례에 대해 추가 검토와 판단을 수행하는 데 집중하고 있다.

특히 이미지와 영상 등 시각 콘텐츠의 경우, 네이버는 자체 음란물 판별 시스템 ‘그린아이’를 통해 97.2%를 AI로 탐지·차단하고 있다. 텍스트 중심 콘텐츠보다 자동화 비중이 더 높은 수준이다.

구글 역시 AI 기반 저품질 콘텐츠를 검색 품질을 훼손하는 주요 요인으로 보고 있다. 이에 따라 유용한 정보를 제공하는 콘텐츠를 우선 노출하는 방향으로 알고리즘을 지속 개편하며, 검색 신뢰도 유지에 집중하고 있다. 

AI가 만든 글을 식별하려는 수요도 빠르게 늘고 있다. AI 스타트업 무하유는 ‘카피킬러’에 이어 ‘GPT 킬러’를 통해 AI 생성 문장을 판별하는 서비스를 제공하고 있다. 이 서비스는 대입 자기소개서와 논문 표절 검사 등에 활용되며 활용 범위가 확대되고 있다. 

업계에서는 생성형 AI가 콘텐츠 생산성을 높이는 동시에 플랫폼의 관리 부담도 함께 키우고 있다고 본다. 네이버 관계자는 “스팸성, 광고성, 매크로 등 비정상적 이용 행위에 대해 지속적으로 모니터링하고 제재하고 있다”며 “이용자에게 신뢰할 수 있는 검색 결과를 제공하기 위한 기술적 대응을 강화하고 있다”고 밝혔다.