가짜뉴스 언론인 퇴출 이어… 美·유럽, AI 활용한 허위정보 막는다

가짜 뉴스와의 전쟁… 전선 확대하는 각국

오픈AI가 개발한 문장 생성형 인공지능 챗GPT 개념도. 지난해 소개돼 세계에 AI에 대한 찬사와 공포를 동시에 불러일으켰다. 미국 등 서방에선 온라인상 각종 허위-차별적 정보를 무차별 학습하는 AI에 대한 규제 움직임이 강화되고 있다. /로이터 연합뉴스

조 바이든 미국 대통령이 25일(현지 시각) 내년 대통령 선거 출마를 공식적으로 선언한 직후 야당인 공화당 지지자들이 ‘바이든이 재선되면’이란 제목의 광고를 냈다. 영상엔 미 금융시장이 붕괴하고 중남미와의 국경엔 불법 이민자가 몰려들고 범죄가 급증하는 등 혼란스러운 장면들이 담겼다. 마치 바이든 대통령 취임 후 일어난 일인 것처럼 보이는 영상 끝엔 아주 작은 글씨로 이런 공지가 떴다. ‘전부 인공지능(AI)이 만든 이미지임.’

빠르게 발달하는 AI가 현실과 구분하기 어려운 가짜 정보를 생성해 민주주의의 근간을 흔들 수 있다는 공포가 확산하면서 미국·유럽의 주요국 정부가 거짓 정보에 맞서기 위한 전장을 전방위로 확대하고 있다. 규제를 도입할 겨를도 없이 급속히 발달한 AI 등 첨단 기술이 가짜 뉴스와 조작된 정보를 만들어 돈벌이와 범죄에 악용되고 특정 정치 세력의 여론 조작을 위한 도구로 동원되는 경우가 급증하면서다.

미 연방 정부의 규제 기관들은 25일(현지 시각) 합동 콘퍼런스를 열고 “AI를 악용한 범죄·차별 행위, 특정 기업의 독점적 이윤 추구 행위를 규제하겠다”고 밝혔다. 한국 공정거래위원회에 해당하는 연방거래위원회(FTC)와 법무부·소비자보호금융국·평등고용위원회 등 4개 기관은 “AI 사용이 불법적 편견을 고착화·자동화할 가능성이 있다”며 “국민을 상대로 한 (AI의) 위법행위에 대해 모든 법적 권한을 행사하겠다”고 밝혔다. 앞서 미 연방 상원도 AI의 잠재적 위험에 대한 안전성 확보 방안을 ‘의회 최우선 과제’로 마련하겠다고 검토에 돌입했다.

이날 FTC 등은 바이든 대통령에게 제출할 AI 규제 관련 건의서를 검토하고 논의했다. 이 건의서는 “중국도 최근에 딥페이크(진짜처럼 보이게 만든 가짜) 이미지 등을 상업적으로 사용하는 데 대한 규제를 도입했다”며 AI가 생성하는 거짓 이미지나 그릇된 편견 등에 대응할 연방 정부의 ‘최고 AI 책임자’를 만들 것을 제안했다. 뉴욕타임스는 “인터넷상 각종 가짜 정보와 허위 선동을 학습한 AI가 특정 성(性)·인종·계층에 대한 차별과 편견을 알고리즘화해 재생산하고, 빅테크 등 AI 선도 업체들이 가짜 뉴스 전파의 도구로 쓰여 공론의 장을 파괴하는 등 각종 문제가 한꺼번에 쏟아지는 데 따른 대처”라고 전했다.

AI가 만들어내는 ‘가짜 디스토피아’의 사례는 최근 들어 동시다발적으로 쏟아지며 공포를 불러일으키고 있다. 미국에선 AI를 이용해 특정인의 목소리 흉내나 음성 변조, 각종 합성 사진·동영상 등을 이용한 각종 사기·보이스피싱이 극성을 부려 당국에 민원 신고가 쏟아지고 있다. 최근 텍사스의 한 노부부는 “사람을 치어 수감됐는데 보석금을 내야 풀려난다”는 아들 목소리를 합성한 AI 사기에 속아 5000달러(약 670만원)를 뜯겼다. ‘DALL-E’ 나 ‘미드저니’ 등 이미지 생성형 AI를 이용해 도널드 트럼프 전 대통령이 수갑을 찬 채 경찰에 끌려가거나 프란치스코 교황이 흰색 패딩코트를 입은 ‘진짜 같은 가짜’ 이미지가 유포돼 논란이 되기도 했다.

연방 정부와 함께 민간 IT 업체들도 가짜를 만들고 퍼뜨리는 AI에 제동을 걸어야 한다는 입장을 잇달아 내놓고 있다. 챗GPT를 만든 오픈AI에 투자한 일론 머스크와 애플 공동 창업자 스티브 워즈니악 등 IT 전문가 1000여 명은 지난달 “AI가 인류에 심각한 위험을 미칠 수 있다”며 AI 개발을 일시 중단하자고 촉구했다. 반도체 기업 엔비디아는 챗GPT 등 AI챗봇의 오답을 줄이고, AI가 주제를 벗어난 헛소리와 거짓을 말하는 현상 등을 차단하는 소프트웨어 ‘네모 가드레일’을 개발했다고 25일 밝혔다.

2020년 미 대선 때부터 큰 문제가 됐던 가짜 뉴스에 대해선 미 언론계에서 자성의 목소리 및 재발 방지책이 잇달아 나오고 있다. 일부 극우 유권자의 입맛에 맞추기 위해 대선 개표 결과가 조작됐다는 음모론 등을 보도한 폭스뉴스는 개표기 제조사에 1조원대의 배상금을 물어주고 간판 앵커였던 터커 칼슨을 해고하는 등 진통을 겪고 있다. 폭스는 또 다른 개표기 회사 스마트매틱으로부터 약 3조6000억원을 물어내라는 소송을 당한 상황이다. 이코노미스트는 “폭스의 결정은 ‘가짜더라도 돈이 되면 보도한다’는 지난 몇 년간 언론의 관행에 철퇴를 가한 것”이라면서도 “언론사가 독자·시청자의 입맛에 맞추기 위해 뉴스를 조작하려는 잘못된 관행이 완전히 사라질지는 미지수”라고 말했다.

빅테크 규제론자인 리나 칸 미 연방거래위원회(FTC) 위원장이 지난 2021년 의회에서 증언하는 모습. 법무부 등 규제기관의 AI 규제를 이끌게 된 그는 25일 "AI를 이용한 범죄 위협으로부터 미국인을 보호하기 위해 모든 법적 권한을 행사하겠다"고 밝혔다. /로이터 연합뉴스

미국 뉴욕에 있는 버즈피드 본사 사무실의 모습. 페이스북 같은 소셜미디어 플랫폼에 올라타 낚시성 제목과 뉴스의 진위나 가치를 판별하기 어려운 정보를 뉴스를 쏟아내 수익을 올렸지만, 최근 정보 검증에 대한 기준이 높아지며 폐업을 발표했다.