MS·구글, AI로 만든 콘텐츠에 추적기술 심는다

MS·구글·오픈AI, AI로 생성한 콘텐츠에 워터마크
딥페이크나 가짜뉴스 위험성 막기 위해 안전조치 취하기로
미국 백악관, AI 개발 및 사용 국제 프레임워크 만들겠다

조 바이든 미국 대통령.(사진=AFP)

[이데일리 김가은 기자] 마이크로소프트(MS), 구글 모회사 ‘알파벳’, 오픈AI 등 미국 내 빅테크 7곳이 AI로 생성한 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했다. 지난해 말 등장한 챗GPT 등 생성형 AI 기술을 딥페이크나 ‘가짜뉴스’ 등에 활용할 수 있다는 우려가 커졌기 때문이다.

지난 21일(현지시간) 미국 백악관은 △MS △알파벳 △오픈AI △앤스로픽 △아마존 △메타플랫폼스 등 7개사가 AI를 악용한 사기나 속임수 등을 차단하기 위해 자발적 조치에 나섰다고 밝혔다. AI로 생성한 콘텐츠를 식별할 수 있도록 워터마크를 포함한 방법을 개발하고 AI시스템 기능, 한계, 적절한 사용범위 등을 공개하겠다고 미국 바이든 행정부와 합의했다는 의미다.

또 개인정보 보호는 물론, AI가 불러올 사회적 위험성에 대한 연구도 진행하기로 했다. 제3자에 의한 AI시스템 취약성을 발견·보고하고, 이에 대한 정보를 업계, 정부, 시민사회, 학계 등과 공유한다는 계획이다.

이는 지난해 챗GPT 등장 이후 제기된 생성형 AI의 부작용을 최소화하기 위한 조치다. 특히 미국은 내년 11월 대선을 앞두고 생성형 AI로 만들어낸 가짜뉴스, 정보조작 문제가 심각해질 것으로 보고 있다.

백악관은 “새 기술을 개발하는 기업은 제품 안전성을 보장할 책임이 있다”며 “AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다”고 말했다. 이어 한국을 비롯한 20개국을 열거하고 “바이든 정부는 동맹 및 파트너 국가와 협력해 AI 개발 및 사용 관리를 위한 국제 프레임워크를 만들 것”이라고 덧붙였다.

김가은 (7rsilver@edaily.co.kr)