딥페이크 영상에 전 세계 '발칵'‥AI 규제냐 개발이냐

[뉴스데스크]

◀ 앵커 ▶

AI 기술, 그중에서도 이미지 합성 기술인 '딥페이크'는 새로운 범죄 유형까지 만들어냈습니다.

기술이 빠르게 발전하는 만큼 규제도 함께 마련하려는 움직임이 세계 곳곳에서 이어지고 있는데요.

편리함을 누리는 동시에 안전할 수 있도록, 우리는 충분히 노력하고 있을까요?

정동욱 기자가 짚어봤습니다.

◀ 리포트 ▶

전쟁 중 군인들에게 싸우지 말고 집에 가라는 젤렌스키 우크라이나 대통령.

[볼로디미르 젤렌스키/우크라이나 대통령 (가짜 영상)] "우크라이나 국민들과 군인 여러분. 무기를 내려놓고 가족에게 돌아가십시오. 이 전쟁에서 죽으면 안 됩니다."

AI 기술로 만든 가짜입니다.

미국에선 민주당 당원들에게 대통령 목소리로 투표하지 말라는 전화가 왔습니다.

[조 바이든/미국 대통령 (가짜 음성)] "당신의 표를 11월 선거를 위해 아껴두는 게 중요합니다."

인공지능이 선거조작에 이용된 겁니다.

한국에선 유명 연예인의 얼굴과 목소리를 조작한 투자사기가 문제가 됐습니다.

[조인성/배우 (가짜 영상)] "안녕하세요. 조인성입니다. 박순혁 교수님의 QF어린이 재단 개최에 감사드리며‥"

날개를 단 발전속도에 세계 각국에선 AI 기술 규제 방안을 마련하고 있습니다.

EU는 세계 최초로 포괄적 인공지능규제법을 만들어 2026년부터 시행하기로 했습니다.

테러 수사 같은 경우를 제외하곤 CCTV를 활용한 안면 인식이 금지되고, 어기면 전 세계 매출의 7%까지 벌금을 부과하기로 했습니다.

미국도 빅테크 기업들을 향해 AI 안전 테스트 정보를 정부와 공유하라고 행정명령을 내렸습니다.

하지만 한국은 아직 걸음마 단계입니다.

딥페이크로 성착취물을 제작하거나 선거운동에 활용하면 처벌할 수 있지만 사기에 대한 처벌 규정은 따로 없습니다.

지난해 마련된 'AI 기본법' 초안이 마련됐지만 상임위 문턱도 못 넘어 21대 국회 임기와 함께 폐기될 예정입니다.

[이재성 교수/중앙대 AI학과] "(법이 없으면) 딥페이크라든가 이런 악용하는 사례에 대해서 어떤 식으로 대응을 할 수 있는 그런 근거 마련도 쉽지 않습니다."

어젯밤 AI 정상회의에선 혁신·안전·포용성 등 3대 원칙을 담은 '서울 선언'을 채택됐습니다.

정부는 AI 생성물에 워터마크 표시를 의무화하고 디지털 위협에 대비하는 법도 만들겠다고 했습니다.

하지만 규제냐 개발이냐, 가볍지 않은 논쟁에 22대 국회에서도 마냥 속도를 내기는 힘든 상황입니다.

MBC뉴스 정동욱입니다.

영상편집:조민서

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

영상편집:조민서

정동욱 기자(dwjung@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2024/nwdesk/article/6600781_36515.html