범람하는 딥페이크‥가짜 목소리를 찾아라

[뉴스데스크]

◀ 앵커 ▶

AI 기술이 발전하면서 진짜를 흉내 낸 음성과 영상으로 만든 가짜 뉴스, 선거 조작, 그리고 각종 범죄까지 걱정되는 상황인데요.

또 한편에선 AI 기술을 이용해 이를 탐지하고 막기 위한 연구도 한창입니다.

정동욱 기자가 취재했습니다.

◀ 리포트 ▶

미국 정부가 벌금 82억 원을 부과하기로 한 미국 대통령의 목소리.

[조 바이든/미국 대통령 (가짜 음성)] "당신의 표를 11월 선거를 위해 아껴두는 게 중요합니다."

AI 기술이 만든 가짜입니다.

미국 대선에 영향을 미칠까 우려될 정도인데, 요즘 이런 건 얼마든지 만들 수 있습니다.

기자가 15초 길이 문장 3개를 읽어 입력하니, 바로 가짜 음성이 생성됐습니다.

[정동욱 기자 (가짜 음성)] "되게 좋은 투자할 곳을 찾았어. 500만 원만 내면 된대."

AI 기술을 악용한 보이스피싱까지 현실화 됐는데, 반대편에선 이를 막을 탐지 기술 연구가 한창입니다.

영화 HER의 목소리 스칼렛 요한슨과 비슷하다고 논란인 오픈AI의 스카이입니다.

[GPT-4o '스카이'] "안녕 마크, 난 잘 지내고 있어. 안부 물어봐 줘서 고마워! 너는 어때?"

어플을 켜자 AI 목소리일 확률이 90% 이상으로 표시됩니다.

AI 목소리가 생성되는 알고리즘을 학습하고 숨소리, 주파수, 음역 등을 분석해 가짜 음성을 가려내는 겁니다.

[정수환/숭실대학교 정보통신전자공학부 교수] "아마 틀린 그림 찾기 같은 걸 생각을 해보시면 되는데‥딥러닝 기술 중에서 대조 학습 기술이 있거든요. 그런 기술을 이용해서 아주 미묘한 차이들을 찾아냅니다."

전화가 오면 보이스피싱인지 아닌지 판단하는 AI 기술도 개발 중입니다.

[정동욱 기자 (가짜 음성)] "엄마 나 지금 급한데 내가 말한 계좌로 돈 좀 보내줘."

미리 가족의 목소리를 학습시켜 놓고 사람인지 아닌지 AI가 구분하는 방식입니다.

[박지웅/LG유플러스 AI음성기술팀 팀장] "말하는 보이스랑 등록된 보이스가 얼마나 유사한지 유사도 검색을 하는 그런 딥러닝 모델을 사용을 하고 있고요."

최대한 인간과 비슷해는 게 목표인 AI 기술, 부작용을 막을 방패 역시 AI 기술로 만들고 있습니다.

MBC뉴스 정동욱입니다.

영상취재: 남현택 / 영상편집: 조민서

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

영상취재: 남현택 / 영상편집: 조민서

정동욱 기자(dwjung@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2024/nwdesk/article/6601568_36515.html