美, AI모델 국가·경제 안보에 위험초래시 정부 통지 의무화

바이든, AI 관련 행정명령 서명…콘텐츠인증표준 수립

조 바이든 미국 대통령. 2023.6.21 ⓒ AFP=뉴스1 ⓒ News1 우동명 기자

(워싱턴=뉴스1) 김현 특파원 = 앞으로 미국 기업들은 자사가 개발하는 인공지능(AI) 모델이 국가안보나 경제 안보, 공중보건 및 안전에 위험을 초래할 경우 이를 연방정부에 통지해야 한다.

조 바이든 대통령은 30일(현지시간) 이같은 내용이 담긴 '안정적이고 안전하며, 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다고 백악관이 보도자료를 통해 밝혔다.

행정명령은 AI 안전 및 보안을 위한 새로운 표준을 제정하고, 미국인의 사생활을 보호하며, 형평성 및 시민권을 증진시키고, 소비자 및 노동자를 옹호하며, 혁신과 경쟁을 촉진하고, 전 세계적으로 미국의 리더십을 증진시키는 등의 역할을 한다고 백악관은 설명했다.

행정명령은 AI 역량에 대한 안전과 보안 우려를 해소하기 위해 AI 시스템 개발자들은 안전 테스트 결과 및 다른 중요한 정보를 미국 정부와 공유하도록 요구하고 있다.

이에 따라 기업들은 국가안보나 경제 안보, 공중보건 및 안전에 심각한 위험을 초래하는 모든 AI 모델을 테스트할 때 연방정부에 통지해야 하며, 모든 안전 테스트 결과를 공유해야 한다.

백악관은 이 조치를 강제하기 위해 한국전쟁 당시 발효된 국방물자생산법을 동원했다.

행정명령은 또 AI를 통한 사기 등을 막기 위해 AI로 생성된 콘텐츠를 탐지하고 공식 콘텐츠를 인증하기 위한 표준 및 모범 사례를 수립하도록 했다.

이에 상무부는 AI로 만든 콘텐츠에 명확한 라벨을 붙이기 위해 콘텐츠 인증 및 워터마크에 대한 지침을 개발할 예정이다.

백악관은 "연방정부 기관들은 이같은 도구를 사용해 미국인들이 정부로부터 정보들이 인증된 것이라는 것을 쉽게 알 수 있도록 할 것이며, 전 세계의 민간 부문과 정부에 모범이 될 것"이라고 밝혔다.

앞서 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 주요 AI 기업들은 지난 7월 바이든 대통령이 백악관에서 개최한 AI 관련 행사에 참석해 AI로 만든 콘텐츠에 워터마크를 넣는 등의 안전 조치를 하겠다고 약속한 바 있다.

미 국립표준기술원은 AI 제품이 대중에 공개되기 전 안전을 보장하기 위해 AI 테스트에 대한 엄격한 표준을 설정할 예정이다.

국토안보부는 이같은 표준을 핵심 인프라 분야에 적용하고, 'AI 안전 및 보안위원회'를 설립할 계획이다.

이와 함께 행정명령은 △AI와 안보에 대한 추가 행동을 지시하는 국가안보 메모 작성 △개인정보 보호 기술의 사용과 개발 가속화에 우선적 연방 지원 실시 △의회에 데이터 개인정보 보호 법안 통과 촉구 등의 내용도 담고 있다.

행정명령은 또 AI 기술 혁신을 위해 △건강 및 기후변화 등과 같은 중요 분야에 대한 AI 연구 보조금 확대 △소규모 개발자 및 기업가에 기술 지원 및 리소스 제공 △고숙련 이민자와 전문성을 가진 비이민자가 미국에서 공부하고 일할 기회를 확대하기 위해 비자 기준 현대화·간소화 등의 조치도 요구하고 있다.

이밖에 행정명령에는 노동력 대체 문제 해결 등을 위해 노동자에 대한 AI의 피해는 줄이고 혜택을 극대화하기 위한 원칙 개발 등도 담겼다.

백악관은 "오늘 바이든 대통령이 지시한 조치는 안정적이고, 안전하며, 신뢰할 수 있는 AI에 대한 미국의 접근 방식에 있어 중요한 진전"이라면서 "더 많은 조치가 필요하며 이를 위해 정부는 의회와 협력할 것"이라고 밝혔다.

앞서 바이든 대통령은 지난 26일 제프 자이언츠 비서실장, 브루스 리드 비서실 부실장, 벤 뷰캐넌 AI 고문 등과 만나 이번 행정명령에 대한 최종적인 검토를 진행했다고 CNN 방송 등 미국 언론이 보도했다.

gayunlove@news1.kr