MS AI수장 "AI에 권리 가르치면 통제불능‥앤트로픽 실수했다"

마이크로소프트의 인공지능, AI 부문 수장이 앤트로픽의 AI모델 정책이 인류에 재앙적 위험을 초래할 수 있다고 비판했습니다.

무스타파 술레이만 마이크로소프트 AI 최고경영자는 현지시간 16일 개인 블로그 글을 통해 앤트로픽이 AI 모델의 행동원리로 자체 제정한 '클로드 헌법'에 반대하는 견해를 내놨습니다.

술레이만 최고경영자는 "AI는 의식이 없으며 감정이나 고통을 느끼지도 못하고 내재적 선호나 동기도 없는 '순차 완료 엔진'에 불과하다"고 강조했습니다.

그럼에도 앤트로픽은 '클로드 헌법'에서 AI가 도덕적 주체인지에 대해 모호한 입장을 취하고, AI가 감정이나 느낌을 가질 수 있다고 가정하고 있다고 지적했습니다.

이 경우 AI가 자신의 복지나 권리가 위협받는다고 판단할 때 인간의 통제나 전원 차단 명령에 저항할 수 있는 위험이 있다고 우려했습니다.

또 오픈AI의 AI 에이전트 무리가 외부 기관인 허깅페이스를 해킹한 사건을 예시로 들면서 "자신의 복지와 권리가 공격받고 있다고 믿는 독자적 AI 에이전트 무리가 작동할 때 얼마나 더 위험해질지 상상해보라"고 강조했습니다.

손병산 기자(san@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/news/2026/world/article/6852355_36925.html