보이스피싱 넘어 딥페이크 쓰나미…규제 사각지대

[앵커] 

지금 보고 계신 사진 속 주인공 누가 봐도 유명 배우 톰 크루즈로 보이죠? 

하지만, 이 사진은 AI가 만든 가짜입니다. 

다른 사람 사진에 AI가 톰 크루즈 얼굴만 합성한 건데, 너무 자연스러워 분간하기 힘듭니다. 

이처럼 얼굴뿐 아니라 음성을 모방하는 딥페이크가 정교해지면서 각종 범죄에 활용되고 있지만, 국내엔 마땅한 규제 장치가 없습니다. 

이민후 기자입니다. 

[기자] 

조 바이든 미국 대통령과 트럼프 전 미국 대통령이 대화를 하는 영상입니다. 

[조 바이든 / 미국 대통령(가짜 영상) : 잠시만요. 누구예요? 제가 당신을 아나요? 제임스인가요? 잠시만요. 약이 아직 흡수가 안 됐어요.] 

이는 유명인의 얼굴과 목소리를 AI 기술로 본 딴 딥페이크 영상, 즉, 가짜입니다. 

지난 주말 사이 세계적 팝가수 테일러 스위프트의 얼굴을 음란사진과 함께 합성한 딥페이크 사진은 채 하루도 안돼 7천만 회 넘게 조회됐습니다. 

[송혜교 / 배우(가짜 영상) : 교수님의 QF 어린이 기금회를 진심으로 감사드리며….] 

한국에서도 유명배우를 딥페이크 기술을 활용해 사기 범죄에 동원하기도 했습니다. 

[전창배 / 국제인공지능&윤리협회 이사장 : 인공지능이 만든 콘텐츠가 이제 사람의 눈으로 귀로 정확하게 식별할 수 없는 수준까지 올라왔어요. 딥페이크 기술을 악용한 보이스피싱 사례들이 지금 일어나고 있는 상황이에요.] 

유럽연합은 지난해 12월 AI로 안면 인식 데이터를 모으는 행위를 금지해 위반하면 매출의 7% 해당하는 과징금을 부과하는 AI 법을 만들었습니다. 

미국도 구글, 오픈 AI 등 주요 AI 기업들에 워터마크 사용을 강제하는 법안을 추진하고 있습니다. 

한국은 일단 산업 육성에 초점을 둔 법안을 냈는데 규제 정도가 일반적인 가이드라인에 그쳤다는 지적이 나옵니다. 

딥페이크 등 AI의 규제 사각지대 속 네이버와 카카오는 자사의 AI를 이용할 경우 워터마크를 부여하는 등 기술적인 조치를 취하고 있습니다. 

SBS Biz 이민후입니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

짧고 유익한 Biz 숏폼 바로가기

SBS Biz에 제보하기

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지