아마존·MS 등, AI가 만든 콘텐츠에 '꼬리표' 붙인다…부작용 예방취지

오픈AI·메타·구글·앤트로픽·인플렉션AI 등 바이든과 회담…
기업들 'AI 안전·보안·신뢰 확보를 위한 자발적 협약' 발표

21일(현지시간) 조 바이든 미국 대통령이 백악관에서 마이크로소프트(MS), 오픈AI 등 인공지능(AI) 관련 기업 7곳의 대표와 AI 안전성에 대한 회담을 진행했다. /AP=뉴시스

미국 인공지능(AI) 관련 주요 기업 7곳이 AI로 만든 콘텐츠에 워터마크를 넣기로 했다. 가짜뉴스 등 AI 관련 사회적 문제 등을 막고자 기업들이 자발적으로 안전조치를 취하기로 한 것이다.

21일(현지시간) 미국 백악관은 알파벳·메타플랫폼·마이크로소프트(MS)·아마존·오픈AI·앤트로픽·인플렉션AI 등 AI 관련 기업 7곳 대표들이 이날 백악관에서 조 바이든 미국 대통령과 회담에서 AI 안전성 확보를 위한 조치를 자발적으로 도입한다는 입장을 밝혔다고 전했다.

이들 기업의 자발적 조치에는 AI 시스템이 기능, 한계, 적절한 사용영역 등을 공개하고, 개인정보 보호 등 AI의 사회적 문제에 대한 우선적 연구, 제3자에 의한 AI 시스템의 취약성 발견 및 보고 등을 촉진하겠다는 내용도 담겼다. 아울러 AI시스템 출시 전 내부는 물론 외부 안전 테스트를 진행하고, AI 위험 관리에 대한 정보를 업계를 비롯해 정부, 시민사회, 학계 등에 공유하겠다는 약속도 포함됐다.

미국 정부는 이날 기업들이 발표한 'AI의 안전성·보안성·신뢰성을 확보하기 위한 자발적 협약'을 대통령령에 따라 이른 시일 내에 행정조치를 발효해 7개 기업 이외 다른 기업에도 확대 적용할 방침이다.

기업들의 이번 조치는 최근 거세진 AI 열풍으로 촉발된 사회적 문제 발생 우려에 대한 대응책이다. 백악관은 "기업들이 이행하기로 한 조치는 '안전·보안·신뢰'라는 AI의 미래에 기본이 되어야 하는 세 가지 원칙을 강조하고, 책임감 있는 AI 개발을 향한 중요한 발걸음을 내딛는 것"이라고 평가했다.

이어 "AI 혁신의 속도가 빨라짐에 따라 미 정부는 이런(AI 관련) 기업에 계속해서 책임을 상기시키고 미국인의 안전을 지키기 위해 단호한 조처를 할 것"이라고 덧붙였다. 또 바이든 행정부가 동맹 및 파트너 국가와 협력해 AI의 개발 및 사용 관리를 위한 국제 프레임워크를 구축하겠다며 한국을 포함한 20개국의 국가를 언급하기도 했다.

한편 바이든 대통령은 이날 기자회견에서 "우리는 지난 50년간 보았던 것보다 향후 수년에서 10년 사이 더 큰 기술 변화를 보게 될 것"이라며 "민주주의와 가치에 위협될 수 있는 새로운 기술에 대해 냉철한 시각을 갖고 경계해야 한다"고 말했다. 그는 "AI는 전 세계 사람들의 삶을 변화시킬 것"이라며 "여기에 있는 기업들은 책임감 있고 안전한 혁신을 통해 미국인의 신뢰를 얻는 데 중요한 역할을 할 것"이라고 전했다. 그러면서 리스크 관리를 통해 AI의 가능성을 실현하기 위해서는 새로운 법규와 감독이 필요하다고 강조했다.

정혜인 기자 chimt@mt.co.kr