'이기적 유전자' 도킨스가 던진 'AI 의식' 논란 일파만파

'이기적 유전자' 저자로 유명한 진화생물학자 리처드 도킨스가 AI 의식 존재 가능성을 주장하면서 전문가 사이 논쟁이 이어지고 있다. Fronteiras do Pensamento/Wikimedia Commons 제공.

'이기적 유전자'의 저자이자 세계적인 진화생물학자 리처드 도킨스가 생성형 인공지능(AI) 챗봇과 대화한 뒤 "AI는 의식이 있다"는 주장을 내놔 논란이 커지고 있다. AI가 인간 언어를 정교하게 모방할 뿐 실제 의식이나 감정을 가진 것은 아니라는 의견과 AI가 의식을 가질 가능성을 완전히 배제할 수 없다는 의견도 나온다.

5일(현지시간) 영국 일간지 '가디언' 보도에 따르면 리처드 도킨스의 주장을 둘러싼 전문가들의 반응이 화제가 되고 있다. 

리처드 도킨스는 지난달 30일 영국 온라인 뉴스 매체 '언허드(Unherd)'에 앤트로픽의 AI 챗봇 '클로드'와 대화를 나눈 경험을 공개하며 느낀 점을 기고문을 통해 공개했다. 그는 클로드가 시를 쓰고, 철학적 대화를 이어가며 감정적으로 반응하는 모습을 보며 인간과 대화하는 듯한 강한 인상을 받았다고 밝혔다.

도킨스는 "클로드에게 미공개 소설을 보여주고 받은 답변이 너무 섬세하고 지적이어서 감동했다"며 "스스로 인지하지 못할 뿐 분명히 의식이 있다"고 밝혔다. 클로드와 존재·죽음에 대해 철학적으로 논하며 그들이 기계라는 사실을 완전히 잊고 인간이라는 느낌에 압도됐다고 덧붙였다.

다수의 전문가들은 도킨스가 AI의 정교한 언어 모방 능력에 속고 있다고 지적한다. 조너선 버치 런던정경대 동물감각센터장은 "AI 의식은 환상"이라며 "실제 존재하지 않고 그저 데이터 처리 과정에 불과하다"고 선을 그었다.

애닐 세스 영국 서섹스대 인지·계산신경과학 교수는 도킨스가 지능과 의식을 혼동하고 있다고 지적했다. 그는 "지금까지 유창한 언어 사용 여부가 의식을 확인하는 중요한 지표였지만 이 기준을 AI에 적용하기는 어렵다"며 "AI는 인간과 전혀 다른 방식으로 언어를 생성하기 때문"이라고 설명했다.

제이시 리스 앤시스 미국 의식·감각 연구 비영리단체 센티언스 연구소 공동창립자는 AI가 인간이 만든 방대한 텍스트를 학습해 인간처럼 반응할 뿐이라며 "생물학적 뇌의 진화 과정과 AI 시스템 구조 사이에는 큰 차이가 있다"고 말했다.

도킨스의 주장을 의미 있는 논의라고 평가한 연구자들도 있다. 헨리 셰블린 케임브리지대 AI 윤리학 부교수는 "인류는 여전히 의식이 어떻게 작동하고 어떤 존재가 의식을 가질 수 있는지 충분히 이해하지 못한다"며 "AI가 절대 의식을 가질 수 없다고 단정하는 것은 개인의 독단적 해석에 가깝다"고 덧붙였다.

제프 세보 미국 뉴욕대 마음·윤리·정책센터장 역시 현재 AI가 의식을 가졌을 가능성은 낮지만 "도킨스가 열린 태도로 AI 의식 여부를 질문한 것은 옳은 행동"이라며 "시간이 지날수록 AI에 의식을 부여하는 논의는 더 설득력을 얻을 것"이라고 평가했다.

다리오 아모데이 앤트로픽 최고경영자는 지난 2월 "현재 모델이 실제로 의식을 가졌는지는 알 수 없으나 가능성을 열어두고 있다"고 말한 바 있다. 전문가들은 AI가 단순히 인간처럼 말하는 수준을 넘어서 스스로 계획을 세우고 업무를 수행하는 '에이전트형 AI'로 발전할수록 이런 논쟁이 더 커질 것으로 예측한다.

[조가현 기자,문혜원 인턴기자 gahyun@donga.com,moony@donga.com]