[김병필의 인공지능 개척시대] 인공지능 추천 시스템의 명과 암

김병필 KAIST 기술경영학부 교수

한 해를 마무리할 때가 다가온다. 스스로에게 한 가지 질문을 해 본다. 올 한 해 동안 이전까지 내가 옳다고 생각했던 지식이나 믿음을 바꾼 경우가 얼마나 있었나? 다른 이의 주장을 듣고 “아! 내 생각이 틀렸었구나”하며 깨달은 적이 있었던가? 부끄럽지만 그리 많지 않았던 것 같다.

노벨 경제학상을 받은 심리학자 다니엘 카너먼 교수의 일화가 떠오른다. 한 학회에서 젊은 학자와 토론을 하던 그는 젊은 학자의 주장과 근거를 끝까지 듣더니 ‘쿨하게’ 자기 생각이 틀렸다고 인정했다. 인류 지성사에 큰 자취를 남긴 학자가 그런 태도를 유지한다는 것은 쉽지 않은 일이다. 자신이 틀렸다고 인정하는 일을 좋아하는 사람은 없다. 하지만 카너먼 교수는 오히려 자신이 틀렸다고 인정하기를 즐기려고 의식적으로 노력한다고 한다. 그만큼 스스로 발전할 수 있기 때문이다.

■

「 점차 정교해지는 추천 인공지능
분열과 극단화 심화시킬 수 있어
내 생각 고칠 기회 얻는 게 중요
다른 의견 수용하도록 발전해야
」

하지만 인공지능 시대에 들어서면서 우리가 생각을 바꾸는 일이 점점 더 어려워져 가고 있다. 유튜브가 추천한 영상을 계속해서 보고, 페이스북이 골라 준 친구 글을 읽다 보면, 나의 이전 생각과 비슷한 생각만 접하게 되고, 새로운 생각과 마주할 일은 줄어 간다.

김회룡기자

구글 연구자의 논문에 따르면 유튜브 추천 인공지능은 주로 두 가지 목표를 위해 최적화되어 있다고 한다. 하나는 이용자 행동 목표이고 다른 하나는 이용자 만족 목표이다. 이용자 행동 목표는 이용자가 추천된 영상을 더 많이 클릭하고, 영상을 더 긴 시간 동안 시청하도록 하는 것이다. 이용자 만족 목표는 이용자가 ‘좋아요’를 누르거나 영상을 ‘공유’하는 경우가 더 많게 하는 것이다. 점차 더 많은 이들이 유튜브 추천 영상을 보며 오랜 시간을 보내고 있는 것을 보면 유튜브의 추천 시스템은 그 목표를 잘 달성하고 있는 것 같기도 하다.

이처럼 추천 시스템은 우리가 즐겁게 시간을 보내는 데 유용하지만, 그 부작용에 대한 우려도 크다. 무엇보다 추천 인공지능이 사회 분열과 극단화 경향을 심화시킨다는 주장은 경청할 필요가 있다. 사람들의 생각이 극명하게 나뉘어 서로 대립하면서, 생각을 함께 나누고 타협점을 찾는 일은 더 어려워지고 있다. 우리 사회만의 문제가 아니다. 전 세계가 함께 겪고 있다. 사회학자들은 역사적으로 심각한 수준에 이르렀다고 진단한다.

그렇다고 해서 우리가 추천 인공지능을 사용하지 않을 수는 없다. 인류는 매일 수백만 테라바이트(TB) 이상의 데이터를 생산하고 있다. 잘 작동하는 추천 시스템 없이는 방대한 데이터 중 우리가 필요한 콘텐트를 찾는 것은 불가능한 일이 되었다. 그러면 추천 시스템을 유용하게 활용하면서도 그 부작용을 해결하려면 어떻게 해야 할까? 안타깝게도 모두가 널리 수용할 만한 ‘정답’은 아직 나와 있지 못한 것 같다. 다 함께 머리를 맞대고 해답을 찾아야 할 과제다.

혹자는 널리 사용되는 추천 시스템에 대해 그 작동 방식을 투명하게 공개하도록 해서 사회적으로 감시하고 감독할 수 있는 제도를 만들자고 한다. 좋은 취지의 제안이다. 하지만 그렇게 되면 추천 시스템을 악용하는 사람들이 나오기 마련이다. 조회 수를 높여 유명세를 얻거나, 사람들의 관심사를 조작하거나, 광고 수익을 늘리기 위해 부정한 수단을 쓸 수 있다. 구글 검색엔진 사례가 유명하다. 구글 설립 초기에는 웹사이트 검색순위를 다른 사이트로부터의 링크 숫자를 기준으로 매겼는데, 이 방식은 논문을 통해 널리 공개되었다. 그러자 돈을 받고 검색순위를 높여주는 사업자가 생겼다. 웹사이트 운영자들은 서로 링크를 주고받는 방식으로 검색순위를 높이기도 했다. 이러한 검색순위 조작 행위가 빈번해지자 구글은 더 이상 새로운 검색순위 결정 방식에 대해서는 세부사항을 공개하지 않게 되었다.

앞으로 인공지능 추천 시스템의 성능은 더욱 개선되어 매우 정교하게 작동할 것이다. 하지만 이러한 발전이 우리 생각을 더 굳히고 옹졸하게 만드는 방향으로 나아가서는 안 될 것이다. 우리가 가족과 친구의 생각을 더 잘 이해하고, 직장 내에서 새로운 제안을 더 잘 받아들이며, 사회 공동체가 더 나은 제도와 정책을 만들어 가려면, 나와 다른 의견을 듣고 내 생각을 고칠 기회를 얻도록 하는 일은 무척 중요하다. 그래서 우리는 모두 카너먼 교수의 태도를 배울 필요가 있다. 추천 인공지능 역시 우리가 카너먼 교수의 태도를 닮는 데 도움이 되는 방향으로 발전해 나가야 할 것이다.

김병필 KAIST 기술경영학부 교수