[2023, 안녕하셨습니까] "보고싶은 뉴스만 보시죠"… 확증편향 부추기는 알고리즘

MS(마이크로소프트) 빙에 '소셜미디어와 가짜뉴스'라는 지시어를 주자 AI가 생성한 이미지.

MS(마이크로소프트) 빙에 '소셜미디어와 가짜뉴스'라는 지시어를 주자 AI가 생성한 이미지.

올 한 해는 '초개인화'와 'AI(인공지능)'라는 키워드가 전 산업을 압도했다 해도 과언이 아니다. 지난해 말 오픈AI의 챗GPT가 세상에 모습을 드러낸 이후 생성형 AI가 1년 내내 전 세계적 이슈가 됐고 개개인의 관심사에 초점을 맞춘 콘텐츠가 사람들의 시선을 사로잡았다. IT(정보기술), 제조업, 금융 등 산업 분야를 망라하고 모든 기업들이 초개인화, AI 사업에 뛰어들었으며 이 같은 추세는 현재도 계속해서 이어지고 있다.

그러나 새로운 기술, 현상을 받아들이는 과정에서 부작용이 뒤따르는 것은 자연스러운 현상이다. 초개인화와 AI 역시 마찬가지다. 자신이 좋아하는 콘텐츠를 지속해서 소비하면서 자기확증·편향 문제가 심각해졌고 AI 기술이 발달하면서 가짜뉴스(허위조작 정보), 딥페이크 문제가 등장했다.

"안녕하세요, 이재용입니다! 저는 30대 초반에 성공적인 투자를 통해 50억원의 자산을 축적하고 경제적 자유를 얻었습니다. 제가 예측한 트렌트는 30%의 수익률을 유지하고 있습니다."

올해 말 페이스북, 인스타그램 등 SNS(소셜네트워크서비스)를 휩쓴 유명인 사칭 광고 문구 중 일부다. 이재용 삼성전자 회장부터 이부진 호텔신라 사장, 김범수 카카오 창업자 겸 미래니이셔티브센터장, 백종원 더본코리아 대표, 김미경 강사, 개그맨 황현희, 유튜버 슈카 등 명성이 있다면 대상을 가리지 않고 사칭이 이뤄졌다.

기사로 소식을 접했을 때나 이미 사칭이라는 사실을 알고 있을 경우 속아 넘어가기 쉽지 않겠지만 문제는 그렇지 않을 때다. 실제 비슷한 수법의 광고를 활용해 연결된 SNS 주식 리딩방에는 수십 명의 사람들이 참여하고 있었다. 이는 사기 피해가 현실로 이어질 가능성을 무시하고 넘어가기 힘든 수준임을 시사한다. 다수의 연예인들도 SNS 사칭 문제로 골머리를 앓고 있다.

맞춤형 뉴스·콘텐츠 소비 문제도 비슷하다. 유튜브 추천 알고리즘으로 뉴스를 접한 사람들의 정치 편향성이 강해진다는 연구는 몇 년 전부터 나오고 있다. 가짜뉴스는 유튜브 내에서도 심각한 문제로 꼽힌다. 이에 정부도 앞장서서 관련 콘텐츠를 제재하고 있는 실정이다.

정치권과 재계, 연예계를 가리지 않고 가짜뉴스를 무차별적으로 퍼뜨린 유튜브 채널 'FuRi Creator'는 지난 24일 비판 여론에 부딪혀 결국 채널을 삭제했다. 해당 채널은 이름을 '이슈파인드'로 바꾸고 영상을 모두 내렸다. 구독자 5만4000명을 훌쩍 넘었던 해당 채널은 쇼츠들의 주요 내용이 '윤석열 대통령이 연설 도중 막걸리병에 맞아 분노했다', '이재용 삼성전자 회장과 가수 홍진영이 결혼한다', '정치인 이준석의 결혼에 박근혜 전 대통령이 축의금 1억5000만원을 냈다' 등 완전히 터무니없는 것들이 대부분이어서 논란의 중심에 섰다.

방송통신심의위원회는 조만간 통신심의소위원회를 열어 해당 채널의 공식 심의를 시작, 삭제 차단 등 강경한 조처를 할 예정이었으나 비판 여론에 부담을 느낀 채널 측이 자진 삭제하면서 사태는 일단락됐다.

기술의 발전이 사람들의 취향 측면이나 편의성 측면에서 삶의 질을 높여주기도 하지만 사회 갈등을 키우는 것이다. 다만 기술의 발전은 막을 수도 없고 막아서도 안 된다는 주장에는 대부분이 동의한다. 중요한 부분은 기술의 발전을 막을 수 없다면 어떻게 하면 보다 안전하게 기술을 서비스할 수 있는가를 고민해야 한다는 점이다.

이성엽 고려대 기술경영전문대학원 교수는 "정부가 나서서 규제하려는 노력도 필요하지만 그 자체만으로는 한계가 있을 수밖에 없다"며 "정부의 움직임과 별개로 플랫폼 사업자들의 자체 콘텐츠 사전 규제와 국민들의 자체 리터러시 향상 등의 노력이 함께 동반돼야 한다"고 강조했다. 이 교수는 "사실 이 문제는 정답이 있는 게 아니다"라면서 "정부와 기업, 소비자 모두의 노력이 필요하다. 초개인화와 AI 기술을 활용한 혜택이 특정 계층이 아닌 국민 모두에게 골고루 돌아갈 수 있도록 사회가 나서서 고민해야 할 시점"이라고 짚었다.윤선영기자 sunnyday72@dt.co.kr