바이든, AI 규제 서명… "내 딥페이크 보고 놀라"

사생활·시민권 보호 행정명령
콘텐츠에 워터마크 부착 추진

지난 5월 22일 미국 워싱턴DC에 있는 미국 국방부 청사 근처에서 폭발이 발생한 것으로 보이는 가짜 사진이 SNS에서 리트위됐다. 이 사진을 살펴보면 미국 국방부 청사와 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟고 있는 모습이 담겼다. 연합뉴스

【파이낸셜뉴스 실리콘밸리=홍창기 특파원】 조 바이든의 미국 정부가 인공지능(AI)을 활용한 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 사진과 영상 등의 심각한 문제를 해결하기 위한 규제전략 마련을 위한 첫발을 뗐다. AI 안전 및 보안에 대한 새로운 표준을 수립하고 딥 페이크 등 가짜 AI 생성 콘텐츠로부터 미국인의 사생활과 시민권을 보호하는 것도 속도가 날 전망이다. 생성형 AI가 만들어 내는 진짜같은 가짜 답변 딥페이크 사진, 동영상 등이 이미 실제와 구분하기 어려울 정도로 발전한 상황인 가운데서다.

10월 30일(현지시간) 바이든 대통령은 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다. 바이든이 서명한 행정 명령에는 개인 정보부터 미국 국가 안보에 이르기까지 다양한 분야에서 AI의 위협을 규제하는 내용이 담겼다. 이에 따라 주요 AI 기업들은 미국 국가 안보와 경제 안보, 공중 보건 및 안전에 심각한 위험을 초래하는 시스템을 개발할 때 연방 정부에 알려야 한다.

행정명령에 서명하기 전 바이든 대통령은 "나도 내 딥페이크를 본 적이 있다"라면서 "나는 '내가 도대체 언제 저렇게 발언했지'라고 (스스로) 말하기도 했다"고 전했다.

이번 행정 명령으로 미국 상무부는 AI가 생성한 자료에 워터마크 등의 레벨을 붙이도록 하는 표준안을 개발할 예정이다. 이 표준안은 2024년 대선 앞두고 큰 문제가 될 것으로 우려되는 딥페이크 콘텐츠 식별하는 데 도움이 될 것으로 평가된다.

이미 알파벳(구글 모회사)을 비롯해 메타, 마이크로소프트(MS), 오픈AI 등 주요 AI 기업은 지난 7월 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 약속한 바 있다.

이번 행정 명령은 AI를 과도하게 제한하지 않으면서 AI의 잠재적 피해로부터 피해자들을 보호하는 데 진전을 이뤘다는 평가를 받는다.