MS “정부 차원 AI 규제 기구 필요”…‘안전 브레이크’ 의무 제안도

(출처=로이터연합)

인공지능(AI) 기술이 급속히 발전하면서 규제 목소리가 커지는 가운데 마이크로소프트(MS)가 5월 25일(현지 시각) AI 규제를 위한 정부 기구가 필요하다고 밝혔다.

MS 최고법무책임자인 브래드 스미스 부회장은 이날 자신의 블로그에 “AI 개발을 감시할 연방정부 차원의 기구를 설치하는 것이 가장 합리적”이라고 밝혔다. 이어 “우리는 항상 AI가 인간의 통제하에 있도록 해야 한다”며 “이것은 기술 중심 기업과 정부 모두에게 최우선 순위가 돼야 한다”고 강조했다.

그는 “AI를 이용해 사람들을 속이려는 의도로 합법적인 콘텐츠가 변경되는 것을 막기 위한 조치가 필요하다”면서 “물리적 보안, 사이버 보안, 국가 보안 등 보호해야 할 가장 중요한 형태의 AI에 대해서는 라이선스가 필요하다”고 강조했다.

스미스 부회장의 기구 설치 언급은 앞서 생성형 AI ‘챗GPT’ 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)의 주장을 뒷받침한다. 올트먼은 지난 5월 16일 미 의회 청문회에 출석해 AI의 위험을 완화하기 위해 정부 규제 개입을 강조한 바 있다. 오픈AI도 국제원자력기구(IAEA)와 같은 AI 규제 국제기구가 필요하다고 주장했다.

MS는 이날 AI 규제에 필요한 5가지 원칙도 제시했다. 우선 중요 인프라에 사용되는 특정 AI 시스템에 ‘안전 브레이크’를 의무적으로 장착할 것을 제안했다. 열차 비상 브레이크처럼 유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다는 것이다.

또 정부 주도의 AI 기술 사용에 대한 ‘가드레일’ 구축을 제안하며 상무부 산하 미국표준기술연구소(NIST) 등이 이를 마련할 수 있다고 설명했다. AI 앱이나 고급 기초 모델, AI 인프라에 대한 법적인 틀 구축, 학술적·비영리적 AI 연구에 대한 자금 지원도 강조했다. AI가 사회에 미칠 영향을 해결하기 위해 민관 협력 관계 구축도 제안했다.