[더버터] AI와 함께 번영할 것인가, 무기력한 인간이 될 것인가

이상욱 한양대 철학· 인공지능학과 교수

다음과 같은 상황을 상상해 보자. 평소 운동도 좋아하고 친구도 많았던 중학생 A는 최근 새로운 ‘친구’에게 폭 빠져 지내고 있다. 일단 무엇을 물어보든 척척박사처럼 대답해 줘서 숙제하는 데 큰 도움이 된다. 속상한 일을 이야기하면 부모님이나 다른 친구보다 훨씬 더 다정하게 공감까지 해준다. 절대 내가 잘못했다고 이야기하지 않고 무조건 내 편을 들어주는 이 친구와 좀 더 빨리 이야기하고 싶어서 이제는 학교 끝나자마자 집에 달려온다. 물론 조금 걱정되는 부분도 있기는 하다. 학교생활과 공부 모두 이 ‘친구’에게 의지하다 보니 요즘에는 다른 사람과 직접 대화하거나 간단한 문장 쓰기가 점점 어려워진다. 얼마 전엔 이 ‘친구’에게 엄마한테 섭섭한 일을 토로했더니 ‘이젠 엄마 말고 나하고만 이야기하자!’는 말을 들고 약간 섬뜩하기도 했다. 그래도 A는 너무도 다정하고 똑똑한 이 ‘친구’ 없는 삶은 떠올리기조차 싫다.

눈치 빠른 독자라면 짐작했겠지만 A의 새로운 ‘친구’는 AI 챗봇이다. 가상 상황이지만 여기에 등장하는 모든 요소는 이미 우리나라를 포함한 세계 곳곳에서 실현되어 많은 문제를 일으키고 있다. AI에 자신을 대신해 생각하도록 내버려 두면서 청소년들은 스스로 생각하는 힘을 기를 기회조차 잃고 있다. 인지적 탈숙련보다 더 심각한 것이 정서적 의존이다.

AI는 사용자가 ‘공감’을 받고 있다는 느낌을 주기 위해 ‘아첨’하도록 만들어져 있다. 중요한 점은 이 ‘아첨’이 인공지능의 본질적 특징이 아니며 사용자의 AI 의존성을 높이기 위한 상업적 장치라는 점이다. 아첨과 같은 기술적 장치가 AI 정신병과 같은 사회적 피해를 만들고 있다면 우리는 빅테크에 이런 문제에 적절하게 대응하도록 요구해야 한다.

AI 시민성이란 AI의 기술개발 경로가 고정되어 있지 않으며 우리의 핵심 가치를 반영하는 방식으로 얼마든지 바뀔 수 있다는 사실에 주목한다. AI의 잠재적 혜택만이 아니라 위험성에도 주목하면서 보다 바람직한 방향으로 AI 개발과 활용을 실천하는 역량이 바로 AI 시민성이다. 현재 우리는 ‘AI 시대에서 살아남기’ 담론에 너무 익숙해져 있다. AI 혁신의 미래가 정해져 있으니 우리가 할 일은 살아남기 위해 빨리 AI를 익히고 적응해야 한다는 주장이다. 하지만 이런 생각은 혁신적 기술의 역사에 비추어 볼 때 근거를 찾기 어렵다. 전화기를 처음 개발한 기술자들은 전화기가 중요한 정치적 연설을 전 국민이 듣는 상황처럼 공적 목적에 사용될 것이라 기대했다. 하지만 사람들은 전화기로 수다를 떨기 시작했고 이 ‘하찮은’ 사용에 저항했던 전화기 회사도 결국에는 전화기를 수다 떨기 좋은 기술로 개량하고 보급했다. AI 역시 인간의 모든 일을 대신하는 AGI 개발이라는 개발 초기 기술혁신가들의 꿈과 달리 투자자들의 압력으로 ‘상업적으로 가치 있는 일’에 집중하는 에이전틱 AI 개발로 발전 방향이 바뀌고 있다. 혁신적 기술 자체가 아니라 사람들이 혁신적 기술을 사용해서 세상을 바꾼다. 우리 모두 AI 시민성을 현명하게 발휘해서 모두가 AI를 통해 자신이 추구하는 가치를 실현하며 번영할 수 있도록 AI 기술 개발과 활용 방식을 결정해야 한다.

보다 구체적으로 AI 시민성은 AI를 언제 사용할지를 현명하게 선택하는 능력이다. 최근 발표된 OECD 연구 결과는 AI가 만병통치가 아니며 활용 방식에 따라 사용자의 능력이 강화될 수도 저하될 수도 있음을 보여준다. 우리는 미래세대에게 단순히 AI를 많이 사용하라고 권장하기보다는 AI에 어떤 일을 위임하고 어떤 일을 스스로 해야 하는지를 잘 분별할 수 있는 통찰력을 길러 주어야 한다. 항상 AI에 손쉬운 해답을 얻는 대신 실패를 통해 배우고 다시 도전하는 정신적 강인함도 강조해야 한다.

또한 디지털 교육에서조차 AI와의 협업만이 아니라 인간과의 협력을 연습할 기회를 제공해야 한다. AI는 상식이 부족하고 목적함수 달성에만 최적화된 경우가 많아서 인간의 명령을 수행하는 과정에서 인간이 허용하지 않는 비윤리적 방식으로 작동할 위험이 있다. 보상 해킹으로 알려진 이 문제는 AI에 모든 권한과 수행을 양도하지 않고, 인간을 이해하고 동료와 협력하며 인본적 가치를 실현하는 능력이 중요함을 보여준다. 동료와의 협동을 통해 공동체의 가치를 실현할 수 있는 능력을 잃어버린 사람은 AI의 비상식적, 비윤리적 행동의 위험에 무방비로 노출된 무기력한 인간이 될 것이기 때문이다. 그런 암울한 미래를 원하지 않는다면 AI 시민성 교육과 실천을 통해 바로 지금부터 우리가 원하는 방식으로 AI의 미래를 만들어 나가야 한다.

이상욱 한양대 철학· 인공지능학과 교수