부모님 따라 정했던 프로야구 응원팀…이제 AI 알고리즘이 정한다?

[AI시대의 윤리학: ②절대자 AI]
인간성을 지배하는 추천 알고리즘

편집자주
인공지능(AI) 발전 속도가 무섭도록 빠릅니다. 몇 년 전 바둑에 통달하더니, 이젠 철학 에세이를 쓰고, 변호사 시험에 척 붙습니다. AI 전문가들조차 속도를 부담스럽게 여길 지경이죠. 그러나 이렇게 눈부시게 발전하는 AI를 ‘어떻게 쓸지’를 두고 아직 사회적 합의와 공감대가 형성되지 않았습니다. 인간의 목숨과 운명이 걸린 일에 AI를 활용할 수 있을까요? 이는 기술적 문제라기보단 인문학(윤리학)이 풀어야 할 질문입니다. AI 전성시대에 인간이 마주한 딜레마, 그 해결의 실마리를 함께 고민해 봅니다.

2일 오후 서울 잠실야구장에서 열린 롯데와 두산의 경기를 찾은 관중이 열띤 응원을 펼치고 있다. 연합뉴스

지역 팀이잖아요. 아버지가 응원하셨거든요. 어려서도 부모님 손잡고 야구장 갔어요.

지나가는 국내 프로야구(KBO) 청년팬을 붙잡고 "왜 이 팀을 응원하게 됐어요?"라고 묻는다면 이런 식의 대답이 돌아오는 경우가 많을 거다. 올해로 출범 42년째를 맞는 KBO는 대표적 지역 연고 스포츠. 부모와 아들딸이 대를 물려 응원하는, 일종의 '모태신앙'적 성격을 꽤나 강하게 지닌다.

이렇게 경험은 한 인간의 성격, 선호, 나아가 가치관 형성에 결정적 영향을 미친다. 부모뿐만이랴. 커서는 친구와 선생님, 감명 깊게 보고 읽은 영화와 책 등. 인간은 살면서 만나는 세계와의 접속, 그리고 사유를 통해 '자아'를 만들어나간다.

그러나 인공지능(AI)이 눈부신 기술적 발전을 거듭하는 이 시기, 이제 인간은 부모와 스승이 아닌 AI 알고리즘이 정해주는 경로를 따라 경험하고 AI가 선별적으로 열어둔 창(窓)을 통해 밖을 내다보는 세상에 살게 됐다. 어린 세대에게 AI는 때론 부모보다 더 강력한 영향을 미치기도 한다. 그 중심에 'AI 추천 알고리즘'이 있다.

우리의 삶을 둘러싼 추천 알고리즘

영상 제작자들을 위한 제작 공간을 제공하는 미국 로스앤젤레스(LA) 소재 '유튜브 스페이스' 앞에 있는 유튜브 로고. 로이터 연합뉴스

'32.9시간'.

국내 유튜브 사용자의 월 평균 이용 시간이다. 하루로 따지면 1시간 6분인데, 성인의 일 평균 독서시간(20분·2021년 독서실태조사), 일 평균 통근시간(30.8분·2020년 인구센서스)을 훨씬 뛰어넘는다.

이렇게 사람들의 시선을 오래 사로잡는 유튜브는 타 미디어와 달리 '추천 알고리즘'이 강하게 작동하는 매체다. 전체 유튜브 시청 시간의 70%가 알고리즘 추천 영상에서 발생한다. 적극적으로 동영상을 찾아서 보는 시간보다, AI가 재생하는대로 무심코 따라가는 시간이 훨씬 많다는 의미다.

AI는 사용자의 이용 패턴과 데이터를 분석해 '개인 맞춤형'으로 어떤 콘텐츠를 보여줄지 결정한다. 유튜브뿐 아니라, 인스타그램, 페이스북, 네이버·카카오 뉴스 등도 자신들이 개발한 AI 추천 알고리즘을 통해 이용자가 무엇을 보고 들을지를 결정한다.

계속 이렇게 가다 보면 AI가 우리 머릿속을 지배하는 세상이 오지나 않을까? 아니면 이미 지배하고 있는 걸까?

AI가 사람을 죽음으로 몰았다?

인스타그램에 올라온 자해 사진을 보고 지난 2017년 11월 스스로 목숨을 끊은 몰리 러셀의 생전 모습. 텔레그래프 캡처

인스타그램이 내 딸의 죽음을 도왔다.
(SNS 유해 게시물에 노출돼 14세에 자살한 몰리 러셀의 아버지)

AI가 한 인간의 머릿속을 지배해 파멸로 몰아갔던 사례가 실제로 있다. 2017년 영국에서 발생한 비극적인 사건이다. 당시 14세 소녀 몰리 러셀은 사회관계망서비스(SNS)가 지속적으로 추천해 주었던 자해 및 자살 관련 게시물에 장시간 노출됐다가, 결국 스스로 목숨을 끊었다.

일간 가디언 등에 따르면 몰리는 숨지기 전 6개월 동안 인스타그램을 하루 최대 120회 사용하며 1만1,000개 이상의 콘텐츠에 '좋아요'를 표시했고, 같은 기간 핀터레스트(이미지 기반 SNS)도 1만5,000회 이상 사용했다. 조사당국은 "몰리가 이용한 콘텐츠 중 일부는 성인이 보기도 어려울 만큼 잔인했다"며 "SNS 게시물이 죽음에 영향을 미쳤다"는 결론을 내렸다.

몰리 아버지 이언 러셀은 당시 언론 인터뷰에서 "내 딸이 목숨을 잃는 데 인스타그램이 도움을 줬다는 사실에 의심의 여지가 없다"며 SNS의 유해 콘텐츠를 강력하게 규제해야 한다고 주장했다.

AI 알고리즘은 어떤 식으로 작동했기에 14세 몰리를 삶의 벼랑 끝으로까지 밀어냈던 것일까.

체류시간을 길게 만드는 데만 초점

AI 추천 알고리즘은 '다 알아서 다 해주는 편리함'에 사람을 중독되게 만든다. 장병탁 서울대 AI연구원 원장은 "알고리즘은 내가 무엇을 보는지, 어떤 반응을 보이는지를 수집해 개인 맞춤형으로 변한다"며 "관련 콘텐츠를 계속해서 추천하기 때문에 사용자는 여기에 중독되게 된다"고 말했다.

그러나 언뜻 보기에 사용자에게 더없이 친절한 AI 알고리즘은, 알고 보면 기업 이윤 극대화에 모든 서비스의 초점이 맞춰져 있다. 추천 알고리즘은 어떻게든 이용자의 체류시간을 늘리고 해당 사이트에 사람들을 잡아두기 위해 물불을 가리지 않는다는 뜻이다. 몰리 러셀의 죽음도 따지고 보면 '체류시간'이 결정적이었다. 몰리는 알고리즘이 계속 공급하는 유해 콘텐츠에 사로잡혀 SNS를 벗어나지 못했고, 자해·자살 게시물의 홍수에 빠져 극단적 선택을 하게 됐던 것이다.

몰리의 죽음 이후 SNS 서비스들은 유해콘텐츠 차단에 노력을 기울이겠다고 했지만, 시장 논리에 기반한 AI 알고리즘에 내재한 문제는 여전히 '현재진행형'이다.

그림을 그릴 때도 사이렌헤드, 클레이로 뭘 만들 때도 사이렌헤드예요.

서울 광진구에 사는 김모(38)씨는 요즘 유튜브의 '사이렌헤드' 영상을 즐겨보는 6살 아들 때문에 고민이 많다. 사이렌헤드는 캐나다 작가 트레버 헨더슨이 창작한 가상의 괴생명체로, 여러 2차 창작물로 인기를 끈 대표적인 괴담 캐릭터다. 아들은 유튜브 알고리즘으로 우연히 사이렌헤드 영상을 접한 후 이 괴물의 세계에 빠져 들었다. 김씨는 "요즘 아이들 사이에서 사이렌헤드 인기가 많다보니 추천 영상에도 자연스럽게 사이렌헤드가 등장한 것 같다"면서 "아이가 무섭다고 하면서도 계속 본다"고 걱정했다.

사이렌헤드 현상에 대해 김아미 서울대 빅데이터 혁신공유대학 연구교수는 "아이들은 호기심이 많고 현실하고 다른 것에 자극을 느끼고 끌리기 마련"이라며 "친구들과 함께 보고 함께 즐기는 '또래문화'에 익숙해 괴담 캐릭터가 알고리즘에 의해 추천되고, 또 찾아볼 수밖에 없다"고 분석했다.

알고리즘을 못 벗어나는 인간

뉴스 분야에서 이런 추천 알고리즘의 폐해는 더 심각하다. 정치·사회 문제와 같은 가치관과 연관될 때 자기 관심사와 먼 콘텐츠에 노출되지 않는 '필터 버블'에 갇힐 수 있기 때문이다. 김성회 정치연구소 씽크와이 소장은 "유튜브에선 이용자가 1분 이상 머무를 만한 영상을 추천한다"며 "광고까지 오래 시청할 수 있도록 하려면 이용자와 비슷한 주장을 반복하는 채널들로 선택지를 좁힐 수밖에 없다"고 말했다.

차미영 카이스트 전산학부 교수는 "테니스를 좋아해 유튜브에서 테니스 영상을 보면 고가의 테니스 라켓 언박싱(상품을 개봉하고 소개하는 것) 영상 등 자극적인 콘텐츠를 추천해 준다"며 "AI 알고리즘은 근본적으로 바이어스(편향)을 띄고 있기 때문에 어느 한 분야의 끝으로 향하는 극단화(radicalization)의 특징을 갖고 있다"고 설명했다.

특이하게도 AI는 이용자 취향을 양극으로 내몰면서 동시에 동질화하는 특성도 있다. 이런 '동조 현상'은 콘텐츠 시장뿐 만 아니라 유통 시장에서도 일어난다. 알고리즘에 의한 '디지털 카르텔' 현상이 그것이다. 아마존과 쿠팡 등 대형 전자상거래 기업들이 AI 알고리즘을 통해 가격을 조정하게 되면서, 자동으로 가격이 일치하는 담합이 일어날 우려가 있다는 것이다. 김건우 카카오모빌리티 수석이코노미스트는 "알고리즘 감사 제도를 통해서 알고리즘에 대한 투명성을 높이자는 제안, 기업의 법인격과 같은 법적 지위를 알고리즘에 부여하여 권리와 책임을 명확히 하자는 제안 등 새로운 경쟁환경에 맞는 전향적인 대응을 요구하는 의견들이 나오고 있는 상황"이라고 전했다.

다시 인간으로 회귀?

인간성에는 열정과 호기심, 이성, 이타주의, 창의성, 이기심 등 많은 것이 포함되어 있어요. 그러나 시장에는 단 하나, 이기심만이 있죠. 시장은 인간성을 증류한 것이지요.(The market is humanity distilled)
(프란치스코 교황)

마크 카니 전 영란은행(BOE) 총재는 과거 바티칸에서 만났던 프란치스코 교황과의 일화를 공개한 바 있다. 당시 교황은 각국 정부 당국자, 기업가,교수 등이 모인 자리에서 자본주의 시장의 핵심을 이런 식으로 묘사했다고 한다.

인간성을 증류해 이기심 하나만 남긴 결과가 시장이듯, 인간성의 다양한 면을 배제하고 극단적 요소만을 살린 결과가 바로 알고리즘 추천의 작동 원리일 수 있다. 이광석 서울과기대 IT정책전문대학원 교수는 "알고리즘 추천 기술에 의한 편향된 콘텐츠 소비 탓에 우리는 극단적 상호 배제와 증오로 똘똘 뭉친 정치적 부족주의를 마주했다"며 "이용자의 활동과 취향을 데이터로 포획해 이를 자원 삼아 기생하는 'AI 자본주의'가 깊어지고 있다"고 비판했다.

AI의 발전 속도만큼 AI 경계론이 비등해지자, 일부 빅테크들은 자사 알고리즘을 공개하고 투명성을 강화하려는 움직임으로 위기를 벗어나려 한다. 트위터는 이달 자사 콘텐츠 추천 알고리즘에 해당하는 소스 코드를 공개했다. 틱톡도 지난해 12월 영상 추천 방식을 공개했고, 네이버와 카카오 또한 뉴스 알고리즘 검증 위원회를 설치하거나 뉴스 배치 알고리즘을 외부에 알렸다.

알고리즘에 '인간성'을 담아보려는 시도 또한 늘어나고 있다. IT 전문매체 와이어드에 따르면 페이스북 운영사 메타의 심리학자와 개발자 등으로 구성된 연구진은 AI가 추천한 페이스북 게시물의 노출도, 이용시간 등에 따른 이용자의 만족도를 측정하는 연구를 진행하고 있다. 당장의 이윤을 포기하더라도 알고리즘이 사람을 행복하게 만드는 방향으로 작동하는 방식을 고민하기 시작했다는 의미다. 차미영 교수는 "당장의 수익도 중요하지만 AI가 사회적인 역할을 해야 한다는 흐름이 형성되고 있다"면서 "이제는 추천 알고리즘을 통해 인류가 얼마나 나아졌는지를 살피고, 이 가치를 토대로 알고리즘을 만들어야 하는 시기가 온 것"이라고 말했다.

▶ 알고리즘은 당신의 반쪽을 알고 있다…'자만추'보다 자연스러운 '알만추'

https://www.hankookilbo.com/News/Read/A2023041212030001863

▶ 목숨 좌우할 AI무기, 기술 계획만 있고 '윤리 로드맵'이 없다

https://www.hankookilbo.com/News/Read/A2023041415560000383

▶ 다가오는 AI무기 시대...'윤리성'원칙도 신속하게 만들어야

https://www.hankookilbo.com/News/Read/A2023041415360001972

글 싣는 순서

①운명을 좌우하는 ‘권력자 AI’
②인생을 지배하는 ‘절대자 AI’
③인간과 공존하는 ‘동반자 AI’

이승엽 기자 sylee@hankookilbo.com
최동순 기자 dosool@hankookilbo.com
윤현종 기자 belly@hankookilbo.com
이현주 기자 memory@hankookilbo.com

이 기사에 대해 어떻게 생각하시나요?

한국일보에서 직접 확인하세요. 해당 언론사로 이동합니다.

한국일보

IT/과학