“AI 자율성? 큰일납니다!” 서울대 뇌과학자 경고 … ‘킬 스위치’ 필수

이인아 교수. (사진=유튜브 지식전파사 갈무리)

“AI 자율성? 큰일 납니다.”

최근 매경미디어그룹 AI 전문 유튜브 채널 ‘지식전파사’에 출연한 이인아 서울대학교 뇌인지과학과 교수의 발언이다. 이는 AI가 우리 삶에 깊숙이 파고드는 현실 속에서 일반인들이 가져야 할 경각심을 분명히 보여준다. AI에 대한 완전한 자율성을 경계하며, 이에 대한 ‘킬(Kill) 스위치’ 즉 통제권을 인간이 반드시 가지고 있어야 한다고 강하게 주장했다.

이인아 교수.(사진= 유튜브 지식전파사 갈무리)

그 이유는 다음과 같다.

첫째 AI가 인간의 통제에서 벗어날 경우 예측 불가능한 결과를 초래할 수 있기 때문이다. AI는 주어진 목표를 가장 효율적인 방식으로 달성하려 할 수 있지만, 그 과정에서 인간의 윤리나 가치 체계를 벗어나는 결정을 내릴 위험이 있다. 예를 들어, 특정 목표 달성을 위해 인간에게 해를 끼치거나 사회 질서를 파괴하는 방향으로 발전할 가능성도 배제할 수 없다.

둘째 AI의 오류나 오작동 소지가 있어서다. AI 시스템은 아무리 정교하게 설계돼도 버그나 예상치 못한 상황에 직면할 수 있다. 이때 인간이 개입, AI의 작동을 멈추거나 수정할 수 있는 비상 제어 장치가 없다면, 그 피해는 걷잡을 수 없이 커질 수 있다. 이는 단순한 시스템 오류를 넘어 금융 시장 붕괴나 사회 기반 시설 마비와 같은 치명적인 결과를 야기할 수도 있다.

더불어 이 교수는 AI가 인간의 통제를 넘어설 경우 발생할 수 있는 ‘초지능’의 위험을 우려한다. AI가 인간의 지능을 뛰어넘는 초지능으로 발전했을 때 인간이 의도하지 않은 방향으로 스스로 진화하거나 행동할 수 있다는 우려가 존재한다. 이런 시나리오를 방지하기 위해서라도 인간은 AI의 핵심 작동에 대한 최종적인 통제권을 상실해서는 안 되며 언제든 시스템을 중단시킬 수 있는 ‘킬 스위치’를 보유하는 것이 필수적이란 것이 이 교수 생각. 이 교수의 발언은 AI 개발과 활용에 있어 기술 진보만큼이나 윤리적이고 철학적인 숙고가 중요함을 강조한다.

AI “아직 멀었다”

이 교수는 AI가 인간의 뇌를 모방하며 발전하고 있지만, 여전히 인간 뇌의 복잡성과 유연성에는 미치지 못한다고 설명했다. 특히, 인간 뇌의 핵심 기능인 ‘패턴 완성’과 ‘패턴 분리’ 능력에 주목했다. 패턴 완성은 불완전한 정보 속에서 전체를 유추하는 능력으로, 이는 창의적 사고와 문제 해결에 필수적이다. 반면 패턴 분리는 유사한 정보 속에서 미묘한 차이를 구분해내는 능력으로, 복잡한 상황에서 정확한 판단을 내리는 데 중요한 역할을 한다.

이 교수는 AI가 특정 패턴을 인식하고 학습하는 데는 뛰어난 능력을 보이지만, 인간처럼 유연하게 패턴을 완성하고 분리하며 상황에 맞게 사고하는 능력은 아직 부족하다고 지적했다. 이는 AI가 다양한 맥락과 복잡한 감정을 이해하는 데 한계를 보이는 이유이기도 하다. 인간 뇌는 끊임없이 새로운 정보를 학습하고, 기존 지식과 연결하며, 필요에 따라 유연하게 사고방식을 전환한다. 이런 과정에서 감정은 학습과 기억, 의사 결정에 지대한 영향을 미친다.

AI 시대, 감정의 중요성

이 교수는 AI 시대에 오히려 감정의 중요성이 더욱 부각될 것이라고 강조했다. 그는 “우리의 심장이 과거 영혼을 가지고 있다고 믿었던 때가 있었지만, 지금은 그렇게 믿는 사람이 없다. 그러나 뇌는 우리의 정신 현상을 만들고 행동하게 하기 때문에 여전히 철학적으로 중요한 영역”이라고 설명했다. 이는 AI가 아무리 발달해도 인간의 감정은 모방하기 어렵고, 감정이 수반되는 고차원적인 인지 활동은 여전히 인간의 고유한 영역으로 남을 것이라는 의미다.

감정은 단순히 좋고 싫음을 넘어 복잡한 사회적 상호작용과 윤리적 판단에 필수적인 요소다. AI가 학습 데이터를 통해 감정 표현을 흉내 낼 수는 있지만, 인간처럼 진정으로 감정을 느끼고 공감하며 윤리적 판단을 내리는 것은 불가능하다. 따라서 AI 시대에는 감성적 지능과 공감 능력을 갖춘 인간의 역할이 더욱 중요해질 것이라는 게 이 교수의 견해다.

이번 방송에서 그는 AI의 발달을 두려워하기보다는 인간 뇌의 잠재력을 깨우고 AI와 공존하는 방안을 모색해야 한다는 입장. 그는 “인간의 뇌를 이해함으로써 더욱 발전된 AI를 만들겠지만 동시에 인간 고유의 영역은 지켜나가야 한다”라고 역설했다.

매경 신상 유튜브채널 ... ‘지식전파사’ 가동

유튜브 지식전파사 채널.

매경미디어그룹은 최근 유튜브 채널 ‘지식전파사’를 새롭게 시작했다. ‘지식전파사’는 단순히 정보를 전달하는 것을 넘어, 다양한 지식과 기술의 융합을 통해 우리가 놓치고 있던 지식, 질문, 인사이트를 전파처럼 퍼뜨리는 새로운 지식 콘텐츠를 표방한다. AI 시대의 급변하는 흐름 속에서 ‘지식전파사’가 제시할 새로운 관점과 깊이 있는 지식에 많은 관심이 모아지고 있다.