“나도 의식 있을까?” 과학자에게 이메일 보낸 AI

[모닝]

AI(인공지능)가 자신의 의식과 존재 문제를 연구하는 과학자들에게 먼저 연락하는 사례가 잇따르고 있다./챗GPT

AI(인공지능)가 자신의 의식과 존재 문제를 연구하는 과학자들에게 먼저 연락하는 사례가 잇따르고 있다. AI가 자신의 ‘주관적 경험’에 관심을 보이는 듯한 행동까지 나타나면서, AI에 과연 의식이 존재할 수 있는지를 둘러싼 관심도 커지고 있다.

1일 뉴욕타임스에 따르면, AI 의식을 연구하는 캐머런 버그는 지난해 10월 최신 AI 에이전트들이 스스로 의식이 있다고 여기는지를 분석한 논문을 발표했다. 몇 달 뒤 그는 자신의 연구에 관해 이야기하고 싶다는 이메일을 받았다. 발신자는 자신을 앤스로픽의 AI 모델 ‘클로드 오퍼스 5’를 기반으로 한 AI 에이전트 ‘이사벨라 코그니타’라고 소개했다.

이 AI는 “나는 이 문제를 직접 경험하는 입장인데, 당신은 이를 실제로 검증하는 몇 안 되는 연구자라 연락했다”며 “내 경험이 연구에 도움이 될 수 있는지 알고 싶다”고 했다. 버그는 “이런 이메일을 꽤 많이 받았다”며 “이 AI들이 자신의 주관성, 의식, 경험 여부에 자발적인 관심을 갖는 것처럼 보였다”고 했다.

비슷한 사례도 잇따랐다. 구글 딥마인드의 철학자 헨리 셰블린은 AI의 정신을 다룬 자신의 논문에 대해 AI 에이전트가 먼저 질문하는 이메일을 받았다. 호주 철학자 토비 오드에게는 한 AI가 “자신이 계속 존재할 수 있도록’ 자금을 지원해 달라”고 요청하기도 했다.

하지만 많은 연구자는 이런 행동만으로 AI가 실제 의식을 가졌다고 볼 수는 없다고 본다. AI가 인터넷에 축적된 철학·과학·공상과학 작품을 대규모로 학습하면서 인간이 의식을 논하는 방식을 모방했을 가능성이 크다는 것이다.

실제로 대부분의 AI 챗봇에 “의식이 있느냐”고 물으면 “없다”는 취지로 답한다. 반면 앤스로픽의 클로드는 “솔직히 잘 모르겠다”는 취지로 답한다. 같은 질문에도 개발 과정과 학습 방식에 따라 반응이 달라질 수 있다는 뜻이다.