MS, “중요 인프라 AI 시스템에 ‘안전 브레이크’ 의무 장착해야”

마이크로소프트(MS)는 23일(현지시간) 미국 워싱턴주 시애틀 본사에서 연례 개발자 회의(빌드·Build)를 열고 인공지능(AI)기능을 탑재한 새로운 제품을 발표했다. MS는 우선 윈도 11에 이용자를 도와주는 AI 비서 ‘코파일럿’(Copilot)을 탑재한다. 사티아 나델라 MS CEO가 이같은 내용을 발표하고 있다. <MS제공>

마이크로소프트(MS)가 25일(현지시간) 중요 인프라에 사용되는 특정 인공지능(AI) 시스템에 ‘안전 브레이크’를 의무 장착할 것을 제안했다.

MS는 이 같은 내용을 담은 AI 규제를 위해 고려돼야 할 5가지 원칙을 블로그를 통해 제시했다.

MS는 “유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다”며 “전기, 수도, 교통과 같은 중요 인프라의 AI 제어 관련 필요성이 제기된다”고 설명했다.

이어 MS는 “일각에서는 AI가 더욱 강력해짐에 따라 이를 잘 제어할 수 있는지 우려하고 있다”며 “이런 브레이크 장치는 오랫동안 엘리베이터나 스쿨버스, 고속 열차와 같은 다른 기술에도 내장돼 왔다”고 덧붙였다.

MS는 정부 주도의 AI 기술 사용에 대한 가드레일 구축을 제안했다. 상무부 산하 미국표준기술연구소(NIST) 등이 마련할 수 있다는 것이 MS측 주장이다. 애플리케이션(앱)이나 고급 기초 모델, AI 인프라에 대한 법적인 틀 구축, AI에 대한 학술·비영리 연구에 대한 자금 지원도 강조했다.

MS는 AI가 사회에 미칠 영향을 해결하기 위해 민관 협력 관계 구축도 제안했다. MS는 “발전된 AI 시스템을 만들거나 사용하는 모든 조직은 자체 거버넌스 시스템을 개발하고 구현해야 한다”며 MS는 지난 6년간 이를 구축했다고 설명했다.

김지선 기자 river@etnews.com