바이든 생성AI 행정명령 서명…AI 모델 발표전 안전성 정부와 공유해야

“형평성 시민권 증진” 등 8개 목표
AI 기업 개발 전 NIST에 검증 필수
“기존 모델에 대해서는 적용 안 해”

조 바이든 미국 대통령 (출처=연합/로이터)

미국 조 바이든 대통령은 국회의 입법에 앞서 생성형 AI에 관한 규정을 담은 행정 명령에 서명했다고 IT 매체 더버지가 30일 밝혔다. 이번 행정명령은 AI 안전 및 보안에 대한 새로운 표준을 만들고, 개인 정보를 보호하고, 형평성과 시민권을 증진하고, 소비자를 옹호하고, 근로자를 지원하고, 혁신과 경쟁을 촉진하고, AI 기술에서 미국의 리더십을 발전시키고, 정부의 책임 있고 효과적인 기술 사용을 보장하는 등 총 8가지 목표를 갖고 있다.

현재 미국내 다양한 정부 기관에서 생물학적 물질을 조작하기 위해 AI를 사용하지 못하도록 보호하는 표준을 만들고, 콘텐츠 인증에 관한 모범 사례를 수립하고, 고급 사이버 보안 프로그램을 구축하는 임무를 맡고 있다. 하지만 여기서 더 나아가 이를 일원화하겠다는 방침이다.

특히 앞으로 AI 개발에 대한 사실상 최종 감시권이 정부로 넘어간다.

미국 국립표준안전연구소(NIST)는 AI 모델 ‘레드팀’을 통해 표준 개발을 담당하고, 에너지부와 국토안보부는 인프라에 대한 AI의 잠재적 위협과 화학, 생물학, 방사능, 핵 및 사이버 보안 위험을 해결할 예정이다. 또 오픈AI나 메타 대규모 AI 모델 개발자는 안전 테스트 결과를 공유해야 한다. 바이든 행정부 고위 관계자는 브리핑에서 기자들에게 안전 지침이 주로 미래의 AI 모델에 적용된다고 밝혔다. 이 관계자는 “시중에 판매 중인 모델을 리콜하지는 않을 것”이라고 말했다. “기존 모델은 이미 시행 중인 차별 금지 규정의 적용을 받는다”는 설명이다.

한편 백악관은 사용자의 개인 정보를 보호하기 위해 의회에 데이터 개인 정보 보호 규정을 통과시킬 것을 촉구했다. 이 명령의 일부는 알고리즘 차별 문제를 해결하고 기술을 선고, 감시에 활용할 때 공정성을 보장하는 등 차별을 위해 AI를 사용하는 것을 방지하는 것이다. 또 이 명령은 정부 기관이 임대인, 연방 혜택 프로그램 및 계약서에 AI가 차별을 악화시키는 것을 방지하는 방법에 대한 지침을 제공하도록 의무화한. 아울러 각 기관은 일자리 감소 문제를 해결하고 AI가 노동 시장에 미치는 영향에 대한 보고서를 작성해야한다.

G7 국제 지침 및 행동 규범 합의

G7은 지난 5월 일본 히로시마에서 연 정상회의를 계기로 추진돼온 ‘히로시마 AI 프로세스’에 의한 첨단 인공지능(AI) 개발 조직에 대한 국제 지침 및 행동 규범이 합의했다고 일본 정부가 발표했다. 국제 지침에는 사용자가 AI에 의해 생성된 콘텐츠를 식별할 수 있도록 인증 같은 메커니즘을 도입할 것, 국제적인 기술 규격의 개발을 추진할 것, 개인 데이터 및 지식재산권을 보호할 것 등의 내용이 담겼다.

한편 영국 정부는 다음달 1~2일 앨런 튜링이 암호 해독 컴퓨터를 개발한 역사적 장소 버킹엄셔 블레츨리 파크에서 인공지능(AI) 정상회담을 개최한다. 리시 수낵 영국 총리 초대로 카멀라 해리스 미국 부통령, 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 알파벳(구글 모회사) 딥마인드의 데미스 허사비스 CEO 등이 참여한다.

이들은 패널 토론을 통해 △AI가 초래하는 위험과 조치 필요성 △국제 협력을 위한 방안 △개별 기업의 AI 안전성 등을 논의할 예정이다. 하 센터장은 “전 세계 AI 안전 논의의 장에서도 한국이 주도적 역할을 할 수 있도록 발언하겠다”고 말했다.

이번 회담이 성사된 것은 스스로 활동하는 인공일반지능(AGI) 출현 전망과 군사용 AI에 대한 염려가 커지고 있기 때문이다. 수낵 총리는 “AI는 전기의 등장, 인터넷의 탄생처럼 새로운 지식을 가져올 것이 분명하다”면서 “하지만 테러리스트, 사이버 공격, 사기, 아동 성적 학대에도 AI가 사용되고 있기 때문에 이제 리더들이 앞장서 행동하고 책임질 때”라고 말했다. 미국은 올 7월 AI 모델의 안전성 확보를 위한 ‘프런티어 모델 포럼’을 론칭했다. 한편 이번 회담에 중국도 참여를 희망하는 것으로 알려졌다.