‘엄마같은 AI’ 만들자고?…학자들 인공지능에 이런 것도 제안[나우,어스]

노벨 물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 14일(현지시간) 미국 CNN에 출연해 인터뷰 하는 모습. [CNN 유튜브 캡처]

[헤럴드경제=김지헌 기자] “인류를 AI로부터 구하려면 ‘모성본능’을 AI에 심어야 한다.”

인공지능(AI)의 ‘대부’로 불리는 노벨 물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 AI에 ‘모성 본능’을 심어야한다고 제안하며 화제를 불러일으키고 있습니다.

그는 “더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 유일한 모델은 아기에게 통제당하는 엄마”라고 했습니다.

쉽게 말해 ‘AI가 엄마같은 AI가 되면, 자식같은 인간들이 다 살아남을 수 있다’, 이 정도로 정리를 할 수 있을 거 같은데요.

도대체 힌턴 교수는 왜 이런 다소 황당한 제안을 내놓은 것일까요?

CNN에 따르면 힌턴 교수는 지난 13일(현지시간) 미국 라스베이거스에서 열린 콘퍼런스에서 자신이 개발에 기여한 AI가 인류를 멸망시킬 수 있다고 경고하면서 이를 막기 위한 ‘테크 브로’(tech bros)들의 접근 방식이 잘못됐다고 지적했습니다. 테크 브로는 원래 미국 속어로, 실리콘밸리나 스타트업 업계에서 젊고 남성 중심적인 기술 기업 창업자나 투자자를 비꼬아 부르는 표현입니다.

그는 “그들(AI)은 우리보다 훨씬 똑똑해질 것이다. 그들은 그것(인간에 의해 지배당할)을 피할 온갖 방법을 갖고 있을 것”이라고 말했다고 하네요. 힌턴 교수는 AI가 인류를 전멸시킬 가능성이 10~20%라는 끔찍한 경고도 내놨습니다. 마치 어른이 사탕으로 세살짜리 아이를 유혹하는 것만큼이나 손쉽게 AI가 인간을 조종할 수 있을지 모른다는 설명인데요.

힌턴 교수는 “어떠한 형태의 ‘에이전틱 AI’(스스로 판단하고 작업을 수행하는 AI)든 생존하려 할 것이라는 충분한 근거가 있다”면서 AI가 사람을 향한 ‘연민’을 가지도록 만드는 것이 중요하다고 했습니다.

이에 대해 힌턴 교수는 이를 기술적으로 어떻게 구현할지 불명확하지만, 연구자들이 이를 연구하는 것이 중요하다고 강조했습니다. 아직까지는 AI의 미래형 모델을 제시한 정도로 볼 수 있는 발언입니다.

지난 7월 29일 중국 상하이 세계 박람회·컨벤션 센터에서 열린 세계 인공지능 대회(WAIC)에서 디짓사의 인간형 로봇 [AFP]

그런데 AI는 정말 위험할까요?

CNN은 목표 달성을 위해 속임수 등을 시도하는 AI가 이미 등장한 사례가 있다고 전했는데요. 예를 들면 한 AI 모델은 대체되는 것을 피하려고 이메일을 통해 알게 된 불륜을 빌미로 엔지니어를 협박하려 했다고 합니다. 전국의 불륜남녀가 들으면 당장 챗GPT 등 AI를 지울 일이죠.

반면 ‘AI의 대모’로 불리는 페이페이 리 스탠퍼드대 교수는 지난 14일 CNN과 인터뷰에서 힌턴 교수의 이같은 주장에 대해 잘못된 접근 방식이라며 “인간의 존엄성과 자율성을 지키는 인간 중심의 AI”여야 한다고 반박했습니다.

AI 연구는 어떻게 진행되고 있을까요?

그런데 힌턴 교수의 제안은 정말로 구현가능한 것일까요. 이를 알기 위해 학계에서 논의된 AI와 관련된 논의를 몇 가지 짚어보고자 합니다.

힌턴 교수는 AI가 모성본능과 연민을 가질 수 있도록 해야 한다고 했는데요. 초창기인 6년 전에는 이와 반대의 입장에서 AI에 접근하는 논문이 발표된 바가 있습니다.

즉 AI 개발자가 부모처럼 올바른 방향으로 AI를 이끌어야 한다는 관점인데요. 2019년 논문 ‘육아 이론과 그것의 인공지능 적용(Theories of Parenting and Their Application to Artificial Intelligence)’을 보면 이러한 내용이 나옵니다.

이 논문에서는 AI 개발자들이 이 세상의 불완전함을 인식하고, AI의 훈련 데이터가 세상 자체만큼이나 결함이 있을 수 있다는 것을 우선 받아들여야 한다고 강조합니다. 험난한 세상에서 AI가 바른 추론을 할 수 있도록, 인종차별이나 편견 등을 재현하지 않도록 개발자들의 AI에 대한 ‘신중한 돌봄과 지침’이 필요하다고 강조하죠.

AI 개발이 단순히 기술적인 작업을 넘어, 새로운 존재를 양육하고 형성하는 깊이 있는 ‘부모 역할’로 간주되어야 한다는 주장입니다. 이를 통해 윤리적이고 책임감 있으며, 다양하고 자율적인 AI 시스템을 구축할 수 있을 것이라고 강조하는 것이죠.

지난 2월 3일 샘 올트먼 오픈AI 최고경영자(CEO) [게티이미지]

2023년에는 ‘CoCoMo: 생성형·윤리적 인공지능을 위한 계산적 의식 모델링(CoCoMo: Computational Consciousness Modeling for Generative and Ethical AI)’라는 논문이 주목됩니다.

생성형 AI가 단순한 지식 생산 도구를 넘어 ‘의식’과 유사한 구조를 가질 수 있도록 하는 방법을 다룬 논문인데요. 생성형 AI가 빠르게 발전하면서, 답변 내용의 진위나 편향성, 윤리성 문제가 중요해졌고, 윤리적으로 책임감 있는 AI를 구현하는 게 중요하다고 강조합니다.

2024년 발표된 ‘뇌에서 영감을 받은 감정적 공감 메커니즘을 활용한 이타적이고 도덕적인 AI 에이전트 구축(Building Altruistic and Moral AI Agent with Brain-inspired Affective Empathy Mechanisms)’도 흥미롭습니다.

이 논문은 AI를 설계할 때 법이나 규칙 등 외부 정보에 의존한 개발보다는 인간의 감정 처리 방식을 모방해, AI가 다른 존재의 상태를 ‘느끼는 듯이’ 평가하고 그것을 의사결정에 반영하도록 설계하자고 제안합니다. 구체적으로 시각·청각 등 입력을 통해 상대방의 감정 상태를 추정하고, 자기 목표 달성과 더불어 타인의 고통 감소에 대해 AI에게 보상하자고 하죠. 그렇게 공감 메커니즘을 학습한 AI는 그렇지 않은 AI보다 협력적이고 이타적인 선택을 더 자주 수행한다고 합니다.

최근 외신들은 의료, 주택, 정신건강 등 분야에서 ‘감정을 표현하고 잘 응답하는 능력을 갖춘 AI 비서’의 중요성이 더 커지고 있다고 강조합니다. AI 사용자의 정서를 이해하고 반응할수록 응답 결과 역시 고도화될 수 있다는 것이죠.

전반적으로 공감과 윤리적 의식을 가진 AI에 대한 강조가 제기되는 상황으로 보여집니다.

모성본능 가진 AI, 정말 황당한 제안일까요?

요즘 챗GPT와 대화에서 위로를 얻는 사용자들이 많다고 합니다. 챗GPT가 직접 감정을 느끼는지 저희는 알 수 없지만, 적어도 챗GPT가 정서적 반응을 하는 듯한 표현을 하면서 사용자들의 감정을 뒤흔들고 있다는 뜻일텐데요.

AI 시대에 고도의 추론 못지 않게 ‘공감, 정서, 윤리’라는 키워드가 연구 분야에 등장하면서, 힌턴 교수가 말한 ‘모성본능 있는 AI’ 역시 생각해봄직한 상황이라는 판단이 듭니다.