펜타곤 가짜사진에 주가 폭락… 美, 이런 혼란 없게 ‘AI 콘텐츠’에 딱지

‘AI발 가짜뉴스’ 원천봉쇄 나서

미국의 인공지능(AI) 선두 기업 7곳이 AI로 생성·변조된 음성·영상 콘텐츠를 사용자가 구별하게 도와주는 디지털 ‘워터마킹’ 시스템을 개발하기로 했다고 백악관이 21일(현지 시각) 밝혔다. 디지털 워터마킹이란 사진 등 데이터에 저작권 등 정보를 삽입해 관리하는 기술을 뜻한다. 누군가가 AI를 이용해 콘텐츠를 만들 경우 다른 사용자도 그것이 ‘AI로 만들어졌다’는 사실을 확인할 수 있게 표지를 넣는 기술을 개발하겠다는 것이다. AI로 진짜처럼 합성한 ‘딥페이크(deep fake)’ 사진이나 영상이 사회에 많은 혼란을 가져올 수 있다는 우려가 커지는 가운데, 이를 불식시킬 기술이 등장할지 주목된다.

AI가 만든 '펜타곤 검은 연기' 가짜 사진 - 지난 5월 22일(현지 시각) 페이스북과 트위터 등 소셜미디어에 미국 버지니아주 국방부 청사 펜타곤 인근에서 폭발이 발생해 검은 연기가 치솟는 것처럼 보이는 가짜 사진이 유포됐다. 이에 미 증시가 하락하는 등 불안감이 확산됐다. 하지만 미국 정부는 펜타곤이 공격당하거나 주변에서 폭발이 벌어진 바 없다고 밝혔다. 미 언론들은 “생성형 인공지능(AI)이 만들어낸 가짜 이미지”라고 보도했다. /트위터

미 정부가 주도한 이번 협의엔 마이크로소프트·구글·앤스로픽·인플렉션 AI·메타(페이스북)·오픈AI·아마존 웹서비스 등 AI 기술에 앞서가는 7개 기업이 동참키로 했다. 조 바이든 대통령은 이날 백악관에서 이들 기업 사장단이 참여하는 회의를 주재하며 ‘책임감 있는 AI 개발’의 중요성을 강조했다. 다만 이 기술이 언제 어떤 형태로 적용될지는 아직 확정되지 않았다. 이번 공약을 주도한 정부 당국자는 “AI로 제작된 콘텐츠라는 워터마크 혹은 어떤 AI 시스템으로 만들어진 콘텐츠인지 알아볼 수 있는 표지를 기술적으로 삽입하는 것인데, 이는 매우 복잡한 기술”이라고 말했다.

백악관이 이날 발표한 ‘AI의 안전성·보안성·신뢰성을 확보하기 위한 자발적 협약’은 AI 콘텐츠를 판별하는 기술 개발을 포함해 총 8개 항목으로 이뤄졌다. AI 시스템을 출시하기 전에 외부 전문가들이 참여하는 안전·보안 점검과 사회적 영향력 평가를 거치고 AI의 위험성을 관리하도록 정부·시민사회·학계와 정보를 공유한다는 내용 등이 담겼다. AI가 사회적 편견이나 차별을 강화하거나 사생활을 침해하지 않도록 AI의 사회적 위험성에 대한 연구를 우선시한다는 내용도 있다.

그래픽=이지원

백악관은 “AI의 개발과 사용을 통제하는 강력한 국제 체제를 만들기 위해 동맹국들과 협력하겠다”며 한국·영국·호주·일본·이스라엘 등의 국가와 이미 논의를 시작했다고 설명했다. 또 미국 기업의 기술 혁신을 제약하지 않으면서 AI를 통제할 행정명령을 만들고, 기업을 실질적으로 규제할 초당파적 법안도 추진하겠다고 밝혔다.

백악관이 직접 AI 협약을 주도하게 된 이유는 그만큼 AI의 위험성에 대한 우려가 커지기 때문이다. 특히 2024년 대선을 앞둔 미국 정계에서는 ‘딥페이크 선거 광고’를 어떻게 규제할지가 큰 논란이다. 공화당의 대선 후보 중 한 명인 론 디샌티스 플로리다 주지사 캠프가 지난달 공화당의 선두 주자인 도널드 트럼프 전 대통령을 공격하기 위해 공개한 광고는 논란 확산의 촉매가 됐다. 리얼리티 쇼 ‘어프렌티스’에 출연해 공개적으로 수많은 사람을 해고했던 트럼프가 강력한 코로나 규제를 주도한 앤서니 파우치 전 미국 국립알레르기·전염병연구소(NIAID) 소장은 해고하지 않았다고 비판하는 영상 속엔 트럼프가 파우치를 끌어안거나 이마에 입을 맞추는 딥페이크 사진 3장이 포함돼 있었다. 내년에 대선 레이스가 본격화하면 딥페이크를 이용한 선거 광고가 난무하거나, 러시아 등 적성국이 딥페이크로 조작된 정보를 유포해 미국 여론을 흔들 수 있다는 우려도 제기된다. 지난 5월엔 미 국방부 청사에서 대형 폭발이 발생했다는 AI 생성 가짜 사진이 돌아 증시가 하락하는 등 실제 금융시장이 영향을 받기도 했다.

AI가 공중 보건의 위협 요소가 될 수 있다는 우려도 제기된다. 지난달 매사추세츠공대(MIT)의 생물학자 케빈 에스벨트 교수팀은 비(非)전문가가 AI를 악용해 팬데믹을 일으킬 가능성에 대한 연구 결과를 발표했다. 학부생들이 AI 프로그램에 팬데믹을 유발할 방법을 묻자, AI는 한 시간도 되지 않아 4가지 병원균을 찾아 제안했다. DNA 합성 방법, 내용을 확인하지 않고 주문대로 이를 합성해줄 회사 이름까지 알려줬다.