"AI가 만들어낸 `정보 쓰레기`, 인터넷 오염 시작됐다"...AI 가 피싱 사기에 활용될수도

WSJ "생성형 AI 사용자 늘면서 수준미달 콘텐츠 급증"
광고 수입 목적 가짜 뉴스 사이트들도 크게 늘어

연합뉴스

"인공지능(AI)이 만들어낸 '정보 쓰레기'로 인한 인터넷 오염이 시작됐다."

12일(현지시간) 월스트리트 저널(WSJ)의 보도다. WSJ은 챗GPT의 돌풍 속에 생성형 AI 사용자가 늘어나면서 AI가 만들어낸 수준 미달의 콘텐츠도 넘쳐나고 있다면서 챗GPT가 주는 여러 편리함도 있지만 이로 인한 부작용도 나타나고 있다고 지적했다.

특히 사용자의 지시에 따라 에세이 정도의 글까지 작성할 수 있는 생성성 AI로 생성된 콘텐츠가 온라인 매체에 쏟아져 들어오고 있다고 WSJ은 전했다.

사이언스 픽션 잡지인 클락스월드 발행인인 닐 클락스는 AI가 만든 콘텐츠가 급증하면서 올해 초부터는 아예 온라인을 통한 작품 접수를 잠정 중단한 상태라고 말했다. 클락스는 사실 AI가 생성한 콘텐츠를 구별하는 것은 어렵지 않다면서 문법과 철자법은 완벽하지만, 앞뒤가 안 맞는 이야기 전개가 AI 생성 콘텐츠 특징이라고 설명했다.

은퇴자 잡지인 인터내셔널 리빙 편집자인 제니스 스티븐스도 요즘엔 AI가 만들어낸 콘텐츠를 골라내는 게 일이라면서 AI가 만든 콘텐츠는 일반적이고 단조롭기 때문에 쓸모가 없다고 말했다.

AI가 만든 콘텐츠뿐만 아니라 AI를 이용해 콘텐츠를 생산하는 가짜 뉴스사이트들도 급증하고 있다.

뉴스사이트 순위 업체인 뉴스가드에 따르면 지난 5월 초만 해도 AI 콘텐츠만 있는 가짜 뉴스사이트가 49개였으나 6월 말에는 그 수가 277개로 급격하게 늘어났다.

고든 크로비츠 뉴스가드 공동창업자는 AI를 이용하는 가짜 뉴스사이트가 기하급수적으로 늘고 있다면서 이들 가짜 뉴스사이트는 구글의 온라인 광고를 통한 수익 창출이 목적으로 보인다고 분석했다.

전문가들은 AI 기술이 정치적 허위 정보나 해킹 목적의 메시지 제작에 사용될 가능성에 대해서도 우려한다.

사이버 보안 업체인 지스케일러는 AI가 범죄자들 사이에서 광범위하게 사용될지에 대해서는 아직 판단하기 어렵다면서도 AI가 피싱 사기를 위한 그럴듯한 가짜 웹사이트를 만드는 데 악용될 가능성은 있다고 말했다.

또한 유튜브에 생성형 AI인 챗GPT를 이용해 돈을 벌 수 있는 방법이라는 내용의 동영상들이 속속 올라오고 있는 것도 우려스럽다고 전문가들은 지적했다.

전문가들은 이들 동영상이 주로 쓸모없는 '정크 콘텐츠'를 이용한 방법을 소개하고 있으며 일부는 일주일에 수천달러 수익도 가능하다고 현혹하고 있지만 실현 가능성이 의심스러운 것들이 대부분이라고 강조했다.

유튜브 모회사인 구글은 이런 현상에 대해 검색순위 조작을 위해 AI 생성 콘텐츠를 이용하는 것은 구글의 스팸 정책 위반이라면서 스팸과 조작으로부터 검색 결과를 보호하기 위해 노력하고 있다고 밝혔다.

WSJ은 인터넷이 AI가 생성한 콘텐츠로 가득 차면 AI 업체도 타격을 받을 수 있다고 지적했다.

공개된 자료를 통해 학습하는 생성성 AI의 특성상 AI 생성 콘텐츠가 증가할수록 언어 모델의 유용성도 줄어드는 이른바 '모델 붕괴' 현상이 나타날 수 있기 때문이라고 WSJ은 설명했다. 강현철기자 hckang@dt.co.kr