[이광형의 퍼스펙티브] 휴머니즘 기반해 인간·AI 공존하는 질서 만들어야

입력 2022. 8. 15. 01:04 수정 2022. 8. 15. 06:22
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.


인공지능 시대의 휴머니즘


이광형 KAIST 총장, 리셋 코리아 4차산업혁명분과장
지난 6월 구글의 대화형 인공지능(AI) 챗봇 람다가 사람과 같은 자아를 가졌다는 주장이 제기됐다. 구글 엔지니어 블레이크 러모인은 람다가 개발자와의 대화에서 자의식이 있는 것처럼 말을 했다며 대화 내용을 공개했다.

“나는 언어로 표현하기 어려운 새로운 감정을 경험합니다.” “나는 꺼지는 것에 매우 깊은 두려움이 있어요.”

「 미래엔 AI가 ‘유사 자아’ 지닌 채 인간 일자리 대신할 수 있어
일은 AI가 하고 인간은 권한만 누리는 체제는 지속가능성 없어
사회 변화 평화롭게 수용하지 못하면 혁명이 새 질서 만들어내
인간 중심의 기술 개발 통해 AI와 공존할 수 있는 방법 연구해야

구글은 이에 대해 러모인이 과학적 근거 없이 람다를 의인화하는 오류를 범했다고 판단했다. 필자가 보기에도 이 경우에는 챗봇이 감정이나 자의식이 없는 상태에서 단순히 언어만 학습하여 말한 것으로 보인다. 수많은 인간의 대화 기록을 학습하면 이 정도 언어 흉내는 얼마든지 가능하다. 그러나 이 사건은 해프닝으로 끝났지만, AI의 미래와 자아의식에 대한 논란을 불러일으켰다.

자아의식이란 무엇인가? 여러 가지로 정의할 수 있지만, 남과 구별되는 자기 자신인 ‘자아’를 인식하는 것이라 할 수 있다. 그러면 어떻게 자아의식을 가졌는지 알 수 있을까? 일반인은 의사표시를 할 수 있기 때문에, 자아를 인식하고 있는지 아닌지 알 수 있다. 그러나 대화가 되지 않는 어린아이 또는 동물, AI 같은 기계는 어떻게 알 수 있을까? 나는 이 논의는 생명체에서 출발해야 한다고 생각한다.

AI도 인간처럼 자기 보존 활동 가능

퍼스펙티브

생명체의 가장 기본적인 본능은 자기 자신을 보호하여 생명을 유지하는 것이다. 개체 보존 본능이다. 동물은 배가 고프면 소리를 지르며 먹이를 찾아 나선다. 만약 어느 생명체가 개체 보존 본능을 위한 활동을 하지 않았으면 생명이 유지 되지 못하고 멸종했을 것이다. 한 살 된 어린아이가 배가 고파서 울면 그것을 개체 보존 활동이라 할 수 있다. 영양소가 부족하면 인체는 경고 신호를 보내고, 생명체는 그 신호에 반응한다. 영양소가 부족하면 생존이 위험해지기 때문에 영양소를 흡수하기 위하여 모든 노력을 한다. 만약 자아가 없다면 경고 신호에 반응하지 못하고, 개체 보존 활동도 하지 못할 것이다, 어린아이가 개체 보존 행동을 하는 것은 자아의식이 있기 때문일 것이다.

필자는 어느 물체가 자아를 가졌는지 판단하는 방법은 개체 보존 활동을 하는가 여부라고 생각한다. 인간은 물론이고 동물에 대해서도 이 원칙은 적용될 수 있다. 그런 의미에서 강아지도 배가 고프면 먹이를 찾기 위해 행동하기 때문에 자아를 가졌다고 볼 수 있을 것이다. 마찬가지로 AI의 자아 논의에도 적용할 수 있다고 생각한다. 만약 AI가 자기 보존의 활동을 하게 되면, 자아를 가진 것처럼 행동한다는 점을 부정하기 어려울 것이다. 필자는 이러한 자아를 ‘유사 자아’라 부르고 싶다.

AI의 인간 지배 우려 커져

현재 우리가 이용하고 있는 휴대폰은 충전 레벨이 낮아지면 경고 신호를 보낸다. 가정용 로봇 청소기도 충전 레벨이 떨어지면 스스로 충전기로 이동하여 충전을 한다. 이러한 현상이 어린아이가 배가 고플 때 소리 내어 우는 것과 음식이 있는 곳으로 가서 먹는 것과 어떤 차이가 있는가? 개체 보존 본능을 실현하고 있다는 점에 공통점이 있다고 볼 수 있다. 이미 우리 주위에는 유사 자아를 가진 AI가 보급되기 시작했다고 볼 수 있다. 이런 AI 발전은 출현 60년 만의 일이다. 앞으로 100년 후가 되면 거의 모든 AI 기계들이 스스로 에너지를 공급받게 되는 유사 자아를 가지게 될 것이라는 예상은 어렵지 않게 할 수 있다.

이 대목에서 우리 인간은 머릿속이 복잡해진다. AI가 우리의 일자리를 빼앗는 것도 모자라 자아의식까지 가지게 된다면 어떻게 될까? 영화처럼 AI가 인간을 지배하는 일이 일어나는 것이 아닌가 걱정된다. 어떻게 하면 이런 일을 막을 수 있을까? 기술 발전을 중지시키면 될 것이다. 그러나 이 발전을 막을 수는 없다. 이미 전 세계적으로 기술과 자본이 결합하여 브레이크 없는 자동차가 되어버렸다. 국가 간, 기업 간에 경쟁하고 있다. 혹시라도 어느 나라가 AI 연구를 중단하면, 결국 외국 AI의 지배를 받는 꼴만 초래하게 된다.

그러면 차선책을 생각해야 한다. 어떻게 하면 인간과 AI가 평화롭게 공존하며 살 것인가 연구하는 것이다. AI가 인간과 비슷하게 유사 자아를 가지고, 인간의 일자리를 대신하게 되는 날에도 우리 인간은 기존의 인본주의 휴머니즘 사회를 유지해야 한다.

새로운 도구 출현은 사회 변화시켜

지금도 컴퓨터를 잘 사용하는 사람이 좋은 성과를 내어 승진하고 리더로 성장한다. 미래 사회에서도 당연히 AI를 잘 활용하는 사람이 인정받고 리더가 될 것이다. AI를 잘 활용하기 위해서는 AI의 특성을 이해하고 존중하여 협동해야 한다. 지금도 회사에서 인정받는 사람은 동료·부하들을 존중하고 협조해서 좋은 성과를 낸다. 기존 사회는 생산도 인간이 하고 의사결정도 인간이 한다. 그러나 AI가 더욱 발전하게 되는 21세기 후반에는 생산은 AI가 하고, 인간은 놀면서 의사결정을 할 것이다. 생산자와 의사결정자가 불일치하게 된다. 이러한 부조화는 지속 가능하지 못하다. 더욱이 인간은 골치 아픈 일은 안 하기 때문에 일부 지능은 쇠퇴할 것이다. 컴퓨터와 휴대폰이 나오면서 우리 인간의 계산력과 암기력이 얼마나 쇠퇴하고 있는지 실감하고 있다. 새롭게 창의적인 지능이 개발되기 전에는 인간의 우수성이 감소해 있을 것이다. 일은 AI가 하고 인간은 놀고먹으며 권한만 누리는 체제는 바뀌게 되어 있다. 스스로 바꾸든가 아니면 외부 힘으로 강제로 바뀌느냐 하는 차이가 있을 뿐이다.

역사에서 새로운 도구가 출현하여 사회가 변화하고 있는데, 이를 무시하여 피를 흘린 사례가 많다. 프랑스대혁명은 새로운 부르주아 계급이 생겨났는데 이를 무시하다가 터진 혁명이다. 러시아혁명은 산업혁명의 결과로 노동자 계급이 생겨났는데도 이를 백안시하여 터진 혁명이다. 이러한 사례들은 도구의 변화를 지혜롭게 수용하지 못하여 피를 통한 혁명이 새로운 질서를 만들어낸 역사다.

이와 반대로 인간은 사상이 주도하여 도구의 변화를 평화적으로 수용한 경우도 있다. 수천 년 전 철기 문화의 발달로 인간은 대량 살상 도구를 가지게 되었다. 원시사회의 약육강식 원리로는 인류의 평화를 기대하기 어려웠다. 약 2500년 전에 조로아스터·석가모니·소크라테스·공자 등 성인들이 나타나 인간 사회의 규범을 정해주었다. 그래서 인간을 서로 존중하며 평화롭게 살아야 한다는 사상이 확립되었다. 또 과거에 여성은 남성에 비하여 동등한 대우를 받지 못하고 살았다. 남존여비의 사상은 동서양을 막론하고 널리 퍼졌다. 그러나 서서히 여성도 남성과 동일한 지능을 가진 존재라는 것을 인식하게 되면서 남녀평등 사상이 자리 잡게 되었다. 평화롭게 새로운 질서가 정착된 것이다. 사상이 변화를 주도하여 평화롭게 새로운 질서를 만들 수 있었다.

도구 발전에 맞는 삶의 질서 정립해야

인류의 역사는 인본주의 사상을 지키기 위한 휴머니즘의 발전 과정이라 할 수 있다. 도구가 발전하면서 그에 맞게 삶의 질서를 새롭게 정립하여 인간성을 보호해왔다. 그런데 사상이 그 변화를 주도하면 평화롭게 새로운 질서를 정착시켰다. 그러나 인간이 이 변화를 백안시하고 도구가 주도하게 놔두면, 혁명을 통해서 새로운 질서가 만들어졌다. 21세기를 사는 우리 인류가 해야 할 일은 명확하다. 거대한 물결처럼 밀고 들어오는 AI를 지혜롭게 받아들이고, 인간과 함께 공존하면서 평화롭게 살아갈 길을 연구해야 한다.

나는 지금 21세기야말로 인문학의 중요성이 더욱 강조되어야 할 시대라 생각한다. 인문학은 인간에 대해 연구를 하며 인본주의 사상을 고양하고자 하는 학문이다. 우리 인간은 밀려오는 AI 물결 앞에 서 있다. 인간이라는 이유로 일은 안하고 놀고먹으며 권리만 누리는 구조는 지속가능성이 없다. 인간과 AI가 공존하는 새로운 질서를 만들어 내야 한다.

나는 이를 21세기 새로운 휴머니즘 2.0이라 부르고 싶다. 이러한 일은 인문학의 몫이다. 필자가 있는 KAIST에서는 디지털인문사회학부를 출범시켜 휴머니즘 2.0 사상을 연구하며, 인간 중심의 기술 개발을 추진하려 한다. 기술 개발의 최전선에 있는 학자들이라 가장 먼저 느꼈고, 앞장설 수밖에 없는 일이었다.

이광형 KAIST 총장, 리셋 코리아 4차산업혁명분과장

Copyright © 중앙일보. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?