바이든 'AI위험 예방' 행정명령에 서명…안전실험 결과 보고해야

제품 출시전 '레드팀' 실험…핵·사이버 보안 위험에 대처
'AI 창작' 워터마크 의무화…지식재산권 침해 여부 평가

조 바이든 미국 대통령이 30일(현지시간) 미국 워싱턴 DC 백악관 이스트룸에서 안전하며 신뢰할 수 있는 인공지능의 개발과 활용에 대한 연설을 하고 있다. 2023.10.31 ⓒ AFP=뉴스1 ⓒ News1 정지윤 기자

(서울=뉴스1) 김성식 기자 = 조 바이든 미국 대통령이 인공지능(AI)의 잠재적 위험을 예방하는 행정명령에 서명했다. 앞으로 생성형 AI를 만드는 기업들은 안전 실험 결과를 사전에 보고해야 한다.

로이터 통신에 따르면 30일(현지시간) 바이든 대통령은 워싱턴DC 백악관 이스트룸에서 AI의 잠재적인 위험으로부터 국가안보, 저작권자, 소비자, 근로자, 소수 집단을 보호하는 행정명령에 서명했다.

바이든 대통령은 행정명령을 통해 안보·경제·보건·안전에 위험을 초래할 수 있는 AI 기술의 경우 개발자가 신제품 출시에 앞서 국방물자생산법(DPA)에 따라 안전 실험을 실시한 뒤 그 결과를 정부와 공유하도록 지시했다.

AI 기업들은 레드팀(공격조)을 구성해 미 국립표준기술연구소(NIST)가 설정한 엄격한 기준을 충족하는지 실험해야 한다. 실험 결과를 토대로 해당 제품이 자국 인프라에 미치는 영향을 미 국토안보부가 평가해 화학, 생물학, 방사선, 핵 및 사이버 보안 위험에 미리 대처하겠다는 구상이다.

이날 대국민 연설을 한 바이든 대통령은 "잘못된 손에 AI가 넘어가면 해커들이 우리 사회를 돌아가게 하는 소프트웨어의 취약점을 더욱 쉽게 악용할 수 있다"며 "AI의 가능성을 실현하면서도 위험을 예방하려면 관련 기술을 통제해야 한다"고 강조했다.

백악관은 별도의 보도자료를 통해 이번 행정명령을 근거로 인간 창작물과의 구분을 위해 AI 생성 자료에는 워터마크를 부착하도록 하는 지침을 조만간 미 상무부가 내놓는다고 밝혔다.

앞서 지난 7월 바이든 대통령은 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 자발적으로 워터마크를 부착하겠다는 약속을 받아냈는데, 이제 기업 자율에만 맡기지 않고 정부가 적극 개입하겠다는 뜻으로 풀이된다.

또한 백악관은 이날 행정명령을 통해 현재 AI 학습 과정에서 저작권 침해가 빈번한 만큼 기업들을 상대로 관련 기술이 지식재산권법을 위반하는지 여부를 자체적으로 평가할 것을 주문했다.

이외에도 △AI에 의해 개인정보가 유출되고 사회적 편견이 심화하는 문제를 해소하는 방안을 마련하는 한편 △일자리 대체 등 근로자 피해를 최소화하기 위해 모범사례를 개발하고 노동 시장에 미치는 보고서를 작성하도록 지시했다.

이날 백악관 고위 관계자는 '이번 행정명령이 유럽연합(EU)의 AI 규제 수준에 못 미친다'는 비판에 대해 추가 입법이 필요하다고 해명했다. 바이든 대통령도 의회의 협조를 당부했다. 이에 척 슈머 민주당 상원 원내대표는 몇달 안에 AI 법안을 마련하겠다고 약속했다.

seongskim@news1.kr