[여현덕의 AI Thinking] AI 의존 ‘인지적 역설’ 현실로… 그래도 희망은 있다

AI 사용 땐 문제해결 성과 23% 줄어
인간, 멍청한 존재로 퇴보할 가능성
뇌는 고도 발달한 유기적 인공지능
AI 과잉 의존 극복해낼 방안 찾아야

최근 오픈AI에서 GPT-4o를 공개하면서 샘 올트먼이 영화 ‘그녀(Her)’를 다시 등장시켰다. 인공지능(AI) 비서 ‘사만다’와 사랑에 빠진 진짜 인간 ‘테오도르’의 이야기다. 아마도 AI가 인간과 친해졌고, 인간처럼 행동하고 감성까지도 표현할 수 있는 멀티모달(multi modality) 능력을 보여주기 위함일 것이다.

이제 인류는 AI라는 도구를 넘어서, 사람들의 일상에 다가와 감성적으로 교감하고 함께하는 ‘AI 반려자의 시대’를 맞이할 것인가. 멀티모달 AI는 우리의 일상에 다가와 초연결+초융합 감성 서비스를 선사하겠지만, 동시에 인지 기능에 부정적인 영향을 미친다는 보고서도 있다. AI의 기능이 좋아질수록 인간의 생산성은 떨어진다는 역설에 관한 것이다. 생성형 AI를 사용했을 때 새로운 제품 혁신에서는 성과가 40% 높았지만, 정작 문제 해결에서는 성과가 23% 감소했다는 보고서는 AI의 ‘인지적 역설’에 대한 우려로 해석된다. AI 덕분에 인간은 게으르고 멍청한 존재로 퇴화할 가능성도 배제할 수 없다.

주의력 분산·창의성 감소 등 문제

게티이미지뱅크

AI 시스템에 대한 의존도가 커지면서 생겨날 수 있는 대표적인 문제는 첫째, 주의력 분산의 일상화다. 이미 스마트폰과 소셜 플랫폼에 과잉된 주의 집중은 역으로 AI 시스템에 의한 ‘주의력 과부하’로 나타난다. 인간은 지속적인 주의력을 가진 유일한 존재이나 특정 작업에만 집중할 수 있다. AI의 자동화는 인간에게 과거 어느 때보다 지속적으로 주의 산만 시스템을 만들어줄 것이다. AI와 디지털에 주의력을 뺏긴 학생은 깊이 생각하는 능력을 잃어간다.

둘째, 인지적 게으름과 창의성·기술력 감소 문제. 생성형 AI 사용이 증가함에 따라 대학생들의 학업 성적이 낮아진다는 연구 결과 또한 위와 같은 맥락이다. AI 시스템이 쉽게 답변과 해결책을 제공해주면 인간은 그 도구에 지나치게 의존하게 돼 자기 기술력 증진과 문제 해결 노력이 감소할 수 있다는 것이다. 우리의 일을 AI 시스템에 크게 의존하면 인간의 기술력은 점차 상실될 수 있다. 예를 들어 GPS 내비게이션 시스템의 광범위한 사용은 인간의 공간 탐색 능력의 저하를 가져온다는 현상은 이미 일상적으로 나타나고 있다. AI 의존도가 심해짐에 따라 인간의 독창적이고 창의적인 사고가 감소할 수 있다.

셋째, 이해 부족과 맹신 현상. AI 알고리즘이 점점 더 복잡해짐에 따라 사용자 인간은 이러한 시스템이 어떻게 작동하여 결론에 나오는지 충분히 이해하지 못할 수 있다. 이해의 부족에 더하여 AI의 추론 방식에 대해 의문을 제기하지도 않게 되면 출력물에 대한 맹목적인 신뢰로 이어질 수 있다. AI 추천 알고리즘은 사용자 인간에게 특정 신념과 연결된 선별적 호오 감정과 선호 정보 의존 현상을 초래한다. 아이덴티티 큐레이션은 자신과 타인의 인식을 왜곡하고 이데올로기적 편견(에코 체임버, 필터 버블, 편견 강화 등)을 심화시키곤 한다.

넷째, 사람들이 AI가 주는 편리함에 전적으로 의존하게 되면서 자신의 도메인 지식과 전문성에 대한 믿음이 감소되고 자신의 역할에 대한 자존감을 잃어가는 경우도 종종 나타나고 있다. 사실 복잡한 문제를 해결하는 과정에서 인간의 전문성은 언제나 중요하고 필수적이다. AI는 주어진 데이터로부터 의미 있는 통찰력과 솔루션을 추천해줄 수 있을 뿐이다. 의사가 AI와 협업해서 맞춤형 처방전을 발행하는 것처럼 인간의 지식은 언제나 중요하다.

AI와 협업 모델 촉진 필요

이러한 문제 앞에서 인간은 어떤 AI 시스템을 개발하고 권장해야 할까. 생성형 AI 시대에 AI 시스템에 대한 과잉 의존성으로 인해 발생하는 문제점을 극복하고 해소하는 방법은 무엇일까.

첫째, 사람들에게 AI 시스템에만 의존하는 대신 AI와 인간의 협업을 촉진하는 방안이다. 협업 모델을 만들되 비판적 사고에 참여하게 만들면 더욱 좋을 것이다. 즉 인간이 AI 시스템을 활용하면서도 인간 고유의 기술을 유지할 수 있도록 하는 것, 나아가서 AI를 문제 해결을 위한 증강 도구로 사용하는 것이다. 인간과 기계 간 협업을 촉진하는 도구로서의 AI 모델을 설계하는 것이다.

둘째, AI 시대가 깊어질수록 인간의 창의성을 장려하고 각자의 아이디어를 생성할 수 있는 환경과 기회를 마련하는 것이 중요하다. 여기에는 브레인스토밍, 거꾸로 보기 등 인간의 아이디어를 결합하게 하는 장을 활성화할 필요가 있다. 창의성 증진에서 발산적 사고가 AI 시스템에 도입될 필요가 있다. AI의 선구자 마빈 민스키 MIT 교수는 AI 메커니즘에서 감성의 역할에도 주목했다. 감성은 마음을 변화시키는 신비하고 강력한 동기라고 봤다. 인간만이 가진 판타지와 상상력은 복잡한 문제에 마음의 동기가 생겨나면 문제 해결은 앞당겨진다.

셋째, 디지털 치매나 인지 저하의 가능성을 늘 알려주고 경고하는 알림 시스템도 생각해볼 수 있다. 그런데 인간에게는 종종 강화물이나 인센티브가 효과적이다. 스탠퍼드대 ‘휴먼센터드 AI 연구소’의 실험에 따르면 근로자들은 AI 설명이 간단하면 AI에 덜 의존하고, 어려울수록 과잉 의존하는 경향을 보였다. 그런데 보상을 제시하니 AI에 덜 의존한다고 한다.

넷째, 디지털 인지 저하 방지 및 디지털 치매 탈출을 위한 솔루션 중에는 ‘디지털 디톡스’ 방법도 제안된다. 디지털 기기를 금하는 디지털 타이머로 디지털 프리타임을 설정하고, 디지털 프리존(digital free zone)에 예약하고, 종이책이나 신문을 읽는 것 같은 구식 대안을 사용하라고 권하기도 한다. 규칙적인 휴식, 야외에서 더 많은 시간을 보내는 방법 등 모두 옛날로 돌아가는 방식이다.

이제, AI를 만든 인간이 AI 도구에 점차 의존해 가는 ‘인지적 역설’이 현실로 다가왔다. 과거 데이터에 의존하여 가본 길만 가는 AI와는 달리 인간이 가보지 않은 길에 도전하고 해법과 지혜를 스스로 창조한다. 인간의 두뇌는 오랜 진화 과정을 통해 고도로 진화한 ‘유기적 AI’다. ‘살아있는 컴퓨터’ 인간이 자신이 만든 피조물 때문에 ‘인지적 나태와 디지털 치매’에 빠지는 현실은 우리를 슬프게 한다. 그러나 인간은 만물의 영장이기에 여전히 희망이 있다.

카이스트 기술경영전문대학원 교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지