뛰는 AI 위 나는 AI…‘딥페이크’도 인공지능이 잡는다
[앵커]
인공지능.
AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.
뛰는 딥 페이크 위에 나는 AI가 있습니다.
가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.
단 몇분만에 가짜를 척척 찾아냅니다.
이 소식은 황정호 기자가 취재했습니다.
[리포트]
한 남성이 눈을 깜박이며, 발표하는 영상.
자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.
얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.
[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]
이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.
바이든 미국 대통령을 사칭한 딥페이크 음성.
[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]
1분도 안돼 '가짜'로 판명납니다.
AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.
["밤양갱~"]
한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.
이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.
한 번 들어보겠습니다.
["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]
이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.
[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]
오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.
KBS 뉴스 황정호입니다.
■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!
황정호 기자 (yellowcard@kbs.co.kr)
Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지
- [총선] 한동훈 “흐름 달라질 것”…이재명 “정권 심판”
- [총선] 비례대표 용지 사상 최장…결국 100% 수개표로
- 집단행동 거부 의대생들의 호소…“폭력적 강요 중단해야”
- IS “우리가 공격”, 미국도 “사전 경고”…러 “테러범 우크라와 접촉”
- 천연기념물 된 화엄사 홍매화 ‘활짝’
- “일주일권은 없나요?”…관광객은 못 쓰는 ‘무제한 교통카드’
- 맨해튼 한복판에도 쥐…뉴욕의 쥐 잡기 전쟁
- ‘사람처럼 판단·행동’ AI로봇 경쟁, 미래는?
- 뛰는 AI 위 나는 AI…‘딥페이크’도 인공지능이 잡는다
- 아파트 화재로 일가족 참변…만취 승객이 택시기사 폭행