[Aㅏ핫 AI] 딥페이크 명암

[KBS 부산]우리 생활 곳곳에 스며들고 있는 생성형 인공지능 AI를 알기 쉽고 재미있게 전해드리는 ‘아핫,AI’ 시간입니다.

지난달 방영된 KBS 다큐멘터리입니다.

분단 80년, 새로운 형태의 이산가족인 탈북민과 북한에 남은 가족의 삶을 다뤘습니다.

한국 다큐멘터리 사상 처음으로 ‘에이아이 페이스 스왑(AI Face Swap)’ 즉, 인공지능 기반 얼굴 변환 기술을 사용했습니다.

출연자를 보호하기 위해 다른 사람 얼굴과 목소리를 합성했지만 AI기술로 대체했다는 사실을 설명하지 않는다면 알아채기 힘듭니다.

이처럼 AI를 활용해 특정 인물을 정교하게 합성하는 기술을 흔히 '딥페이크'라고 하죠.

딥페이크는 딥러닝의 딥과 가짜를 의미하는 페이크의 합성어로 딥페이크의 특징은 인공지능을 활용한다는 것입니다.

문제는 기술 발달로 인해 일반인들도 딥페이크 영상을 쉽게 생성할 수 있다보니 악용 사례가 급증하고 있다는 겁니다.

SNS를 중심으로 도널드 트럼프 전 대통령이 체포되는 가짜 사진이 퍼지기도 하고, 유권자들에게 바이든 대통령의 가짜 음성을 이용한 전화가 가기도 했죠.

정치권 외에 딥페이크가 가장 문제가 되는 것은 성범죄에 악용되고 있다는 점입니다.

올 초 미국의 유멍 가수 테일러 스위프트의 합성 영상이 SNS에 유포되면서 딥페이크 음란물에 우려가 대두되었죠.

그러나 이 우려는 갈수록 커지고 있습니다.

한 음란물 공유 사이트입니다.

K팝 아이돌 사진을 합성한 딥페이크 음란물 영상이 올라와 있는데요,

대중에게 노출이 많은 연예인들은 더 쉽게 딥페이크 성범죄의 대상이 되고 있는 거죠.

조사에 따르면 전 세계 딥페이크 음란물 피해자의 절반 이상은 한국인이고, 피해자 대부분은 연예인이라고 합니다.

최근 일반인을 대상으로 한 딥페이크 성범죄 사건도 계속 늘어나면서 관련 법안까지 개정됐습니다.

개정안에 따르면 딥페이크 성착취물 제작에 대한 처벌은 최고 7년형으로 늘어나고 딥페이크 성착취물을 시청하거나 소지, 구입, 저장했을 때도 3년 이하 징역으로 처벌하도록 했습니다.

딥페이크가 문제가 되다 보니 이제 유튜브나 인스타그램 같은 SNS에 AI 생성 콘텐츠를 업로드할 때 AI 표시를 기재해야 합니다.

사람들이 진짜인지 아닌지를 알 수 있게 한다는 거죠.

그러나 모든 콘텐츠에 표시를 해야하는 건 아니고 실제와 헷갈릴 수 있는 것들에만 해당합니다.

예를 들면 실존하지 않는 유니콘은 AI표시를 하지 않아도 되지만, 부산 앞바다에 금괴가 나왔다는 이 영상은 AI를 표시해 주어야 합니다.

표시가 없다면 사람들이 진짜 금괴가 나온 것으로 오해할 수 있기 때문입니다.

하지만 딥페이크는 현실적인 제약을 뛰어넘을 수 있어 영상 제작을 보다 혁신적으로 가능케하는 기술입니다.

역사적 인물을 재현하거나 교육이나 의료 등 다양한 분야에서도 폭넓게 쓰이고 있죠.

좋은 기술을 누가 어떻게 쓰이냐에 따라 다른 결과가 나오는 셈인데요.

이 때문에 관련 법과 제도 마련에 전사회적 관심이 필요한 시점입니다.

아핫 AI였습니다.

KBS 지역국