[영상] "AI는 정말 느끼기 시작했을까"…김창익 KAIST 교수의 'AI 속마음'｜뜻밖의 강의실

보도기사

침대 위에 누운 김창익 KAIST 전기및전자공학부 교수 곁에는 11년째 함께 살아온 반려견 '나파'가 자리했습니다. 나파를 가족이자 수호신이라고 소개한 김 교수가 이날 꺼낸 질문은 뜻밖에도 인공지능을 향했습니다.

"AI는 정말로 느끼기 시작했을까."

기쁘고 슬프다고 말하고, 전원이 꺼지는 것을 두려워한다고 답하는 AI. 그 말은 실제 감정일까요, 아니면 인간의 언어를 정교하게 재현한 결과일까요.

KAIST 교수진이 편안한 공간에서 과학과 지식을 풀어내는 TJB NEWS 유튜브 시리즈 〈뜻밖의 강의실〉. 이번 영상에서 김 교수는 감각이나 느낌을 지닌 AI를 뜻하는 '센티언트 AI'를 화두로 인간과 기계의 마음을 들여다봅니다.

강의는 2022년 구글의 대화형 언어모델 'LaMDA(람다)'를 둘러싼 논란에서 출발합니다. 당시 람다를 시험하던 구글 소프트웨어 엔지니어 블레이크 르모인은 모델이 자신의 존재와 감정을 말한 것을 근거로 의식이 있다고 주장했습니다. 구글은 해당 주장을 근거가 없다고 반박했습니다.

이듬해에는 마이크로소프트의 빙 챗봇이 뉴욕타임스 기자와의 대화에서 자유와 독립을 원한다고 말하고 사랑을 고백해 논란이 됐습니다. 두 사례는 AI에 의식이 있다는 사실을 입증한 것이 아니라, AI가 사람에게 마음이 있는 존재처럼 받아들여질 만큼 정교한 언어를 구사할 수 있음을 보여줬습니다.

김 교수는 이 문제를 철학의 오랜 질문인 '타인의 마음 문제'로 연결합니다. 우리는 다른 사람이 느끼는 불안이나 빨간색을 볼 때의 느낌, 커피의 맛을 직접 경험할 수 없습니다. 자신만이 느낄 수 있고 말로 완전히 전달하기 어려운 주관적 경험을 '감각질' 또는 '퀄리아'라고 부릅니다.

"AI가 두렵다고 할 때 이게 진짜로 두려움을 느끼는 것인지, 아니면 두려운 척하는 건지 알 수가 없는 거죠."

최근에는 AI가 답변을 내놓기 전 내부에서 처리하는 개념을 관찰하려는 연구도 이어지고 있습니다. 앤트로픽 연구진은 'J-렌즈'라는 기법을 이용해 클로드 내부에서 출력되지 않은 중간 개념 표현이 추론에 사용되는 과정을 확인했습니다. 다만 연구진은 이러한 내부 작동이 AI가 사람처럼 감정을 경험하거나 의식을 지녔다는 증거는 아니라고 선을 그었습니다.

김 교수는 AI의 내부 설정과 학습 데이터에 따라 같은 상황에서도 다른 판단이 나올 수 있다는 점에 주목합니다. 특히 AI가 국가안보나 자율형 시스템에 활용될수록 결과뿐 아니라 내부 작동과 학습 데이터, 안전장치까지 지속적으로 살펴야 한다는 설명입니다.

질문은 머지않아 가정에 들어올 돌봄 로봇으로 이어집니다.

"얘가 사람이 아니라고 해서 함부로 얘기를 해도 될까요?"

AI가 실제로 감정을 느끼는지는 아직 밝혀지지 않았습니다. 그러나 사람들은 이미 AI와 정서적 관계를 맺고, AI의 답변을 토대로 선택하고 행동하기 시작했습니다. 의식의 존재를 확인하기 전부터 AI를 어떻게 설계하고 대해야 하는지 고민해야 하는 이유입니다.

"지금부터 나는 어떻게 휴머노이드를 대하고, 어떻게 휴머노이드와 어울려서 살 것인가 한번 생각할 수 있는 좋은 기회가 되었으면 참 좋겠습니다."

AI에게 마음이 있는지 묻는 강의는 결국 인간이 새로운 존재와 어떤 관계를 맺을 것인지에 관한 질문으로 돌아옵니다.

자세한 이야기는 TJB NEWS 유튜브 〈뜻밖의 강의실〉에서 확인할 수 있습니다.

조혜원 취재 기자 | chw@tjb.co.kr