"보고도 속는다" AI 가짜뉴스 범람…딥페이크 전쟁

생성형AI 등장+스마트폰과 SNS, 딥페이크 범람 배경
美, AI가 생성한 콘텐츠 워터마크 부착 '행정명령' 발표
빅테크들, 정치광고에 'AI 표기' 의무화

미 국방부 청사인 펜타곤 영내에서 폭발이 일어났다는 이른바 '가짜 사진'. SNS 캡처

#1. 지난 5월 22일 미국 국방부(펜타곤) 옆 건물이 불타고 있는 사진이 급속도로 퍼졌다. 미국 S&P500 지수가 0.3% 가량 급락했다. 미국 국방부가 "조작된 사진"이라고 공식 확인하면서 사태는 일단락됐다.

#2. 지난달 31일 조 바이든 미국 대통령은 AI 규제 등의 내용을 담은 행정명령에 서명하기 전 연설에서 "나도 내 딥페이크를 본 적이 있는데 나는 '내가 도대체 언제 저렇게 발언했지'라고 (스스로) 말하기도 했다"고 놀랬다. 그러면서 행정명령에 따라 상무부가 AI 생성 자료에 워터마크 등의 레벨을 붙이도록 표준을 개발할 예정이라고 소개했다.

#3. 이달 초 기시다 일본 총리가 뉴스 프로그램에 출연해 외석절인 발언을 하는 동영상이 SNS를 통해 순식간에 퍼졌다. 일본 민영 방송인 니혼테레비(닛테레) 뉴스 프로그램 로고와 'LIVE'(생중계), 'BREAKING NEWS'(뉴스 속보) 표시도 있다. 그러나 이 영상은 오사카에 사는 20대 남성이 생성형 AI를 이용해 1시간 만에 만든 것이라고 밝혀졌다. 일본 정부는 "민주주의 기반을 훼손하는 일"이라며 공유 및 확산 자제를 요청했다.

내 눈으로 직접 보고도 못 믿는 세상이 왔다. AI(인공지능)로 가짜도 진짜같이 조작해낸 사진과 영상에 대해 어떻게 통제해야 할까. 미국은 내년 대선을 앞두고 먼저 칼을 빼들었다. 이에따라 미국 빅테크 기업들도 정치 광고 등에 'AI 표시' 의무화 정책을 잇따라 내놨다.

생성형 AI 등장 후 딥페이크도 같이 진화

'딥페이크'는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, 인공지능을 기반으로 한 이미지 합성 기술이다. 딥러닝은 AI가 학습하는 능력을 말한다. 전체 AI 생태계로 보면 딥페이크는 일부분에 불과하다. 하지만 사람들이 일상적으로 쉽게 접하는 미디어·콘텐츠와 연계되면서 사회에 미치는 파장도 크다. 스마트폰과 인터넷, SNS가 딥페이크의 유포와 확산을 위한 불쏘시개 역할을 하는 셈이다.

스탠프드대학교 인간중심 인공지능연구소(HAI)가 매년 발표하는 보고서 'AI Index 2023'에 따르면 독립적이고 개방된 '인공지능, 알고리즘, 자동화 사고 및 논쟁 공공 데이터베이스(AIAAIC)'에 보고된 AI 사고 및 논쟁 수는 2012년 10건에서 2021년 260건으로 26배 증가했다. AI가 현실에서 널리 사용되기 시작했으며 AI가 윤리적으로 오남용될 수 있다는 우려가 높아졌음을 보여준다.

특히 지난해 11월 오픈AI의 챗GPT가 등장하면서 AI에 대한 관심은 더욱 폭발적으로 증가했다. 사회 곳곳에서 AI 기술의 효용성과 영향력을 체감하는 한편, AI로 인한 부작용과 역기능을 방지하기 위한 대응과 통제 수단 마련이 필요하다는 목소리도 함께 높아지고 있다. 챗GPT를 개발한 오픈AI의 대표 샘 알트만과 빌 게이츠 등은 AI로 인한 멸종 위험을 줄이는 것을 전염병, 핵전쟁과 같은 사회적 위험과 동일하게 보고 전 세계가 이를 대비해야 하는 것을 우선 과제로 삼아야 한다는 성명을 발표했다.

'인공지능의FATE를 위한 입법 논의 동향과 시사점'. 국회 입법조사처 제공

美, AI가 생성한 콘텐츠 워터마크 부착 '행정명령' 발표

미국은 AI의 안전성을 높이기 위한 규제가 담긴 첫 행정명령을 지난달 30일(현지시간) 발표했다. 행정명령의 핵심은 기업이 AI를 대중에게 공개하기 전에 안전성 검사를 거치도록 하고, 그 결과를 연방정부에 보고하라는 것이다. 특히 국가 안보·경제·공공 보건 등에 위험을 초래할 수 있는 AI를 개발하는 기업은 개발 단계부터 이를 정부에 알리고 객관성이 보장된 검사 결과를 정부에 공유해야 한다.

내년 대선을 앞두고 '민주주의를 위협하는 적'으로 꼽히는 딥페이크의 위험성을 제거하기 위한 방안도 담겼다. 미 상무부는 이번 행정명령에 따라 AI가 생성한 콘텐츠에 워터마크(식별표시)를 부착하고 콘텐츠의 출처를 확인하는 기술 표준을 마련해야 한다.

빅테크들, 정치광고에 'AI 표기' 의무화  

이에 따라 미국 빅테크 기업들은 내년 대선을 앞두고 정치 광고에 AI 사용 여부 공개를 의무화하는 대책을 잇따라 발표하며 가짜뉴스와의 전쟁에 나섰다. 내년엔 한국 총선 등 전 세계 50국 이상에서 65건의 선거가 치러진다. 워싱턴포스트는 "미 대선이 (AI 가짜 뉴스의) 핵심 시험대가 될 것"이라고 했다.

페이스북과 인스타그램 운영사 메타는 8일(현지시각) "새해부터 정치 등의 광고에 다른 기업의 AI 기술을 사용한 경우 이를 공개하도록 전 세계 광고주에게 요구할 것"이라고 밝혔다. 광고에 AI 기술을 사용할 수 있지만 이를 명시하라는 것이다.

메타는 "AI 사용 여부를 반복적으로 공개하지 않은 경우 광고주는 불이익을 받게 될 것"이라고 했다. 다만 구체적인 불이익에 대해서는 설명하지 않았다. 또 메타는 정치·사회 이슈뿐 아니라 주택·고용·제약·금융 서비스 관련 광고를 제작할 때에 자사 AI 기술을 지원하지 않을 것이라고 밝혔다.

앞서 구글도 유튜브 등 자사 플랫폼에 선거 광고를 올릴 때 AI를 사용한 경우 이를 사용자가 알아볼 수 있는 곳에 명확히 표기해야 한다고 밝혔다. 이 조치는 이번 달 중순부터 시행된다. 틱톡과 스냅챗은 정치 광고를 아예 차단하고 있다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 :jebo@cbs.co.kr
• 카카오톡 :@노컷뉴스
• 사이트 :https://url.kr/b71afn

CBS노컷뉴스 홍영선 기자 hong@cbs.co.kr

▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기