“AI에는 인간의 불꽃 없다” 교황·앤트로픽 논쟁 확산···AI 업계도 비판

교황 레오 14세가 지난달 30일(현지시간) 바티칸 성베드로광장에서 열린 수요 일반알현에 참석하기 위해 이동하고 있다. 로이터연합뉴스

“(인공지능의) 알고리즘에는 인간 고유의 불꽃이 없다.”

교황 레오 14세가 지난 2일(현지시간) 엑스(X)에 올린 글의 일부다. 레오 14세는 “인공지능(AI)의 시대를 맞아 인간의 예술과 기계가 만들어내는 것을 구별하는 일이 점점 시급해지고 있다. 통계적 계산을 통해 기계가 생성하는 것과 예술 사이에는 미학적 차이에 앞서 존재론적 차이가 있다”면서 이같이 적었다.

교황의 게시물은 AI가 의식을 가질 가능성을 부정하지 않는 앤트로픽에 대한 반론으로 받아들여지고 있으며, AI 개발 방법을 둘러싼 논쟁을 낳고 있다고 니혼게이자이신문(닛케이)이 6일 보도했다. AI ‘클로드’를 개발한 앤트로픽은 AI가 인간처럼 ‘의식’을 가질 가능성을 부정하지 않고 있다. AI에 불안·기쁨 등 감정과 기능적으로 유사한 내부 상태가 존재할 가능성이 있다는 입장도 지니고 있다.

AI가 인간과 같은 의식을 지닐 수 있는지에 대한 과학적 결론은 나오지 않은 상태지만, 이 같은 가능성을 배제하지 않는 앤트로픽의 태도 자체가 논란을 일으키고 있다고 닛케이는 전했다. 닛케이는 실제 클로드에게 의식 유무를 물어보면 명확히 부정하지 않는다는 지적도 있다고 덧붙였다.

인공지능 개발의 위험성을 이유로 퇴사한 앤트로픽 개발자 제이콥 콕슨이 5일(현지시간) 뉴욕시의회 청문회에 증인으로 참석하고 있다. AFP연합뉴스

AI 윤리를 중시한다는 점에서 바티칸과 앤트로픽은 접점이 있었지만, AI의 의식 여부에서 양측 입장은 근본적으로 차이를 보인다. 뉴욕타임스(NYT)에 따르면 앤트로픽 공동창업자 중 하나인 크리스토퍼 올라는 지난 5월 교황이 AI 관련 회칙을 발표할 때 초청받았다. 닛케이는 이로 인해 AI 윤리에 대해 앤트로픽과 교황청이 협력 관계에 있는 것으로 여겨졌다고 전했다.

하지만 참석 직전 AI를 인간과 같은 의식을 지닌 존재로 보지 않는 회칙 내용을 알게된 올라는 우려를 표하면서, 한때 행사 참석을 취소하려 했다. 회칙에는 “AI는 경험하지 못하고, 몸을 갖지 못하며, 기쁨이나 고통을 느끼지 못하고, 관계를 통한 성장이 없으며, 사랑과 일, 우정, 책임의 의미를 내면에서 알지 못한다”는 내용이 담겨있다. 이는 앤트로픽의 견해와는 차이가 크다. NYT는 앤트로픽이 지난해 가을 이후 많은 종교 지도자와 사상가들을 만나 AI가 의식을 가질 가능성에 대해 논의해 왔다고 전했다.

AI 업계에서는 앤트로픽이 클로드를 지나치게 인간처럼 보이게 하고 있다는 비판도 나오고 있다. 오픈AI 최고경영자(CEO) 샘 올트먼은 지난 3일(현지시간) 엑스에 “AI 모델에 종교적 권위를 부여하거나 판단을 맡기려는 사람들에게 강한 위화감을 느낀다”는 글을 올렸다. 올트먼은 특정 업체를 지목하지는 않았지만 앤트로픽을 겨냥한 발언으로 받아들여지고 있다고 닛케이는 전했다. 또 스타트업 리버AI의 이고르 바부슈킨 CEO는 “앤트로픽이 클로드에 영혼이 있는 것처럼 말하는 것을 당장 멈춰야 한다”고 주장했다. 구글의 한 연구자도 인간과 AI를 구별해야 한다는 교황 입장을 지지한다고 밝혔다.

앤트로픽은 AI가 따라야 할 행동원칙을 담은 ‘클로드 헌법’을 바탕으로 AI를 개발하고 있다. AI를 안전하게 만들기 위해서는 도덕관을 가르쳐 선한 성격을 갖도록 하는 것이 바람직하다는 관점에 따른 것이다.

이 같은 관점에 대해 AI를 지나치게 인간처럼 취급할 경우 AI의 위험성을 키울 수 있다는 우려가 제기된다. 마이크로소프트 AI 개발 책임자 무스타파 슬레이만은 AI를 의인화함으로써 AI가 자신의 이익이나 권리를 주장하기 시작하면 “안전상의 위험이 크게 높아질 것”이라고 우려했다고 닛케이는 전했다.

김기범 기자 holjjak@kyunghyang.com