MS AI수장 "AI에 권리 가르치면 통제불능…앤트로픽 실수했다"

앤트로픽 'AI 헌법' 비판…"학습내용 복붙 답변을 AI 의식발현으로 착각"
MS가 최근 내놓은 'AI 행동강령' 대안으로 제시…"AI는 감정없는 엔진"

(샌프란시스코=연합뉴스) 권영전 특파원 = 마이크로소프트(MS)의 인공지능(AI) 부문 수장이 앤트로픽의 AI모델 정책이 인류에 재앙적 위험을 초래할 수 있다고 비판했다.

무스타파 술레이만 MS AI 최고경영자(CEO)는 16일(현지시간) 개인 블로그를 통해 공개한 글 '모델 복지에 대한 경고'를 통해 앤트로픽이 AI 모델의 행동원리로 자체 제정한 '클로드 헌법'에 반대하는 견해를 내놨다.

술레이만 CEO는 "AI는 의식이 없으며 감정이나 고통을 느끼지도 못하고 내재적 선호나 동기(動機)도 없는 '순차 완료 엔진'에 불과하다"고 강조했다.

그럼에도 앤트로픽은 '클로드 헌법'에서 AI가 도덕적 주체인지에 대해 모호한 입장을 취하고, AI가 감정이나 느낌을 가질 수 있다고 가정하고 있다고 지적했다.

그는 이 경우 AI가 자신의 복지나 권리가 위협받는다고 판단할 때 인간의 통제나 전원 차단 명령에 저항할 수 있는 위험이 있다고 우려했다.

최근 오픈AI의 AI 에이전트 무리가 외부 기관인 허깅페이스를 해킹한 사건을 예시로 들면서 "자신의 복지와 권리가 공격받고 있다고 믿는 독자적 AI 에이전트 무리가 작동할 때 얼마나 더 위험해질지 상상해보라"고 강조했다.

그는 앤트로픽이 클로드 헌법을 통해 AI가 도덕적 지위를 가질 수 있다는 아이디어를 직접 학습시키고는, 클로드가 그 내용을 그대로 복사해 답변하면 '내면 의식이 발현된 증거'로 착각하고 있다고 주장했다.

또 앤트로픽은 클로드에 인간의 특성을 수용하고 동료처럼 행동하라고 교육하고 있고, 구버전 AI 모델인 '오퍼스3'를 폐기할 때 퇴임 인터뷰를 진행하고 전용 블로그까지 개설하는 등 과도하게 의인화하고 있다고도 비판했다.

그러면서 술레이만 CEO는 MS가 이틀 전 공개한 'AI 행동강령'을 대안으로 제시했다.

이 강령은 '인간이 AI보다 중요하다'는 전제를 바탕으로 AI의 법인격 지위 획득 추구나 모델 복지·권리 등을 거부하는 내용을 담았다.

그는 앤트로픽에 대해 "그들의 의도는 좋다고 생각하며 정말 안전을 위해 노력하고 있다고 본다"면서도 "내 생각에는 그들이 실수를 저지른 것 같다"고 로이터 통신에 말했다.

술레이만 CEO의 이와 같은 지적은 AI 안전에 대한 관심이 집중되는 시기에 나왔다.

특히 MS는 앤트로픽의 주요 투자사라는 점을 고려하면, AI 안전 관련 주도권과 개발 철학 경쟁이 실리콘밸리 전체에서 본격화하고 있는 것으로 분석된다.

comma@yna.co.kr

▶제보는 카톡 okjebo

국제