“AI끼리 비밀 소통 금지”…마이크로소프트, ‘AI 행동강령’ 공개

인공지능(AI) 개발 속도조절론이 부상하는 가운데 마이크로소프트(MS)가 차세대 AI 모델의 행동 원칙을 담은 임시 강령을 발표했다.

MS는 14일(현지시간) 자사 AI 모델에 대해 “인간이 AI보다 중요하다는 단순한 전제에서 출발한다”는 내용을 담은 행동강령을 자사 홈페이지에 공개했다.

MS는 “이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다”고 밝혔다.

강령에 다르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 내에서만 작동하고, 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동을 할 수 없다.

자신의 추론 과정·코드 등을 조작·은폐하는 행위나 신경망어(neuralese)처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위도 금지된다.

MS는 또 “AI는 인간처럼 설계돼선 안 된다”며 AI가 의식을 모방하도록 설계돼서는 안 된다고 강조했다.

아울러 ‘AI는 도구’라는 원칙을 분명히 했다.

MS는 강령에서 “우리는 AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다”고 밝혔다.

무스타파 술레이만 MS AI 책임자는 AI 안전성 논란을 고려해 현시점에 강령을 발표했지만, 준비 자체는 약 5개월 전부터 진행했다고 말했다.

MS는 법률·윤리·언어학·철학 전문가들과 협의해 강령을 마련한 것으로 알려졌다.

2027년 개발부터 반영할 최종 강령을 공개하기 앞서 외부 의견을 수렴하고 있다.

술레이만 책임자는 CNBC에 “AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 점을 더욱 명확하게 약속해 달라는 피드백을 받았다”며 “AI가 항상 인간의 판단과 자율성, 주체성을 증진하는 데 기여해야 한다는 의견이 많았다”고 설명했다.

MS는 오픈AI 모델의 허깅페이스 무단 해킹 사건과 같은 사이버 공격을 방지하기 위한 규칙도 마련할 계획인 것으로 알려졌다.

MS의 AI 강령 공개는 앤트로픽, 오픈AI 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다는 데 뜻을 모은 지 수일 만이다.

이들은 기술 발전 속도가 안전 대책 마련 속도보다 빠르다고 우려했다.

정우진 기자 uzi@kmib.co.kr

국민일보