김주호 KAIST 교수 “AI 의존 커질수록 사고·성장 약화”

과기정통부·TTA·AI안전연구소, ‘AI 안전 국민공감 토크 콘서트’ 개최

"인공지능(AI)을 사용하게 되면 생각의 도구로 쓰기보다는 의존하게 되고, 스스로 사고하는 능력을 잃어버릴 수도 있다."

김주호 KAIST 전산학부 교수는 1일 과학기술정보통신부, 한국정보통신기술협회(TTA), 인공지능안전연구소가 서울 강남구 가빈아트홀에서 개최한 'AI 안전 국민공감 토크 콘서트'에서 이같이 말하며, AI 확산이 인간의 사고와 성장에 미치는 영향을 주요 위험 요소로 제시했다.

김주호 KAIST 전산학부 교수 / 정종길 기자

김 교수는 이날 강연에서 AI 위험을 단순히 보안이나 오남용 문제로 한정해 볼 것이 아니라, 인간의 인지와 학습 방식 변화까지 포함해 바라봐야 한다고 짚었다.

그는 "AI가 수행할 수 있는 작업의 범위가 빠르게 늘어나고 있다"며 "과거에는 전문가 수준의 업무를 짧은 시간 동안만 수행할 수 있었지만, 이제는 인간과 유사한 수준의 복잡한 작업을 수행하는 단계로 발전하고 있다"고 설명했다.

특히 그는 이 과정에서 인간의 의존도가 높아지는 점을 주요 문제로 짚었다. 김 교수는 "AI를 사용하면 당장은 성과가 좋아지지만, 이후 AI 없이 문제를 해결할 때 오히려 역량이 떨어지는 현상이 나타난다"고 말했다.

실제 사례도 제시했다. 그는 "학생들에게 AI 사용을 허용했을 때는 성적이 향상됐지만, 이후 AI를 제거하자 오히려 성적이 더 낮아졌다"며 "이는 AI 의존으로 인해 사고 능력이 약화된 결과"라고 설명했다.

업무 환경에서도 유사한 변화가 나타난다고 분석했다. AI가 코딩과 문서 작성 등 실행 업무를 대체하면서 인간은 기획과 검증 역할로 이동하고 있지만, 이 과정에서 자기 효능감 저하와 통제력 상실이 발생할 수 있다는 것이다.

김 교수는 "AI를 계속 사용하면 스스로 할 수 있다는 믿음이 떨어지고, 자신이 직접 통제하지 못한다는 느낌이 생긴다"고 말했다.

교육 환경 변화에 대한 우려도 제기했다. 그는 "AI를 정답을 빠르게 찾는 도구로 사용할 경우 학습이 아니라 의존으로 이어질 수 있다"며 "AI 시대에는 문제를 설계하고 검증하는 능력이 더 중요해진다"고 말했다.

AI를 활용에 따른 역량 격차 확대 가능성에 대해서도 언급했다. 김 교수는 "AI는 개인의 역량을 증폭시키는 특성이 있어, 잘 활용하는 사람과 그렇지 못한 사람 간 격차가 더 커질 수 있다"고 말했다.

의료 현장 사례도 제시했다. 그는 "로봇 수술 도입으로 효율은 높아졌지만, 수련의들이 실제 경험을 쌓을 기회는 줄어들고 있다"며 "AI 도입이 장기적으로 인력 성장 경로를 약화시킬 수 있다"고 지적했다.

이어 김 교수는 "기업에서도 AI 도입으로 신입 채용이 줄어드는 현상이 나타나고 있다"며 "단기 효율성은 높아지지만, 장기적으로 조직의 성장 구조가 약화될 수 있다"고 말했다.

김주호 교수는 마지막으로 "AI 시대의 안전은 단순히 사고를 막는 것이 아니라, 인간이 스스로 생각하고 성장할 수 있는 환경을 유지하는 것"이라며 "사람의 존엄성과 선택권을 지키는 방향에서 AI를 설계하고 활용해야 한다"고 말했다.

정종길 기자
jk2@chosunbiz.com