유인촌이 부른 '서른즈음에' 국감서 울려퍼진 이유는?…"딥페이크에 당했다"

10일 국회 문화체육관광위원회의 문화체육관광부 국정감사에서 이상헌 문화체육관광위원장이 AI로 유인촌 문체부 장관의 목소리를 이용해 만든 '딥페이크' 노래 영상을 재생했다.[국회방송]

[헤럴드경제=김성훈 기자] "또 하루 멀어져간다. 머물고 있는 청춘인 줄 알았는데~"

10일 국회 문화체육관광위원회의 문화체육관광부에 대한 국정감사장에 유인촌 문체부 장관이 부르는 가수 김광석의 '서른즈음에'가 울려 퍼져 이목을 끌었다.

이상헌 문화체육관광위원장이 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해, 유 장관의 음성을 인공지능(AI)으로 학습시켜 '딥페이크 서른즈음에'를 만든 것이다. 이 위원장은 또 김광석이 기타를 들고 있는 영상에 유 장관의 얼굴까지 합성했다.

회의장 스크린에는 이처럼 유 장관이 기타를 들고 '서른즈음에'를 부르는 영상이 상영됐고, 제법 자신의 음성과 비슷한 목소리의 노래가 흘러나오자 유 장관은 웃음을 터뜨렸다.

이 위원장은 "그럴듯하지 않으냐"고 물었고, 유 장관은 "비슷하다"고 답했다.

최근 이처럼 AI를 이용해 누군가의 목소리를 학습시켜 노래를 만드는 것이 유튜브에서 유행처럼 번지고 있는데 이를 따라한 것이다. 이미 고인이 된 김광석이 김범수의 '보고 싶다'를 부른다던지, 한국말을 할 줄 모르는 팝스타 브루노 마스가 뉴진스의 '하입보이'를 부르는 등의 딥페이크 제작물을 유튜브에서 흔히 볼 수 있다.

문제는 이것이 보이스피싱 등의 범죄로도 이어질 수 있다는 것이다.

이 위원장은 "생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 있다"고 지적했다. 그러면서 자신이 지난 5월 AI를 사용해 제작한 콘텐츠엔 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다면서 "법안을 긍정적으로 검토해달라"고 당부했다.

이에 유 장관은 "그렇게 하겠다"며 "예전에도 뭘 바꾸고 개혁하자는 이야기가 나오면 정치적으로 해석해 항상 정말 힘들었다. AI 문제도 해결해야 할 미래 과제라 많이 협조해주시면 개정이 잘될 것"이라고 덧붙였다.

paq@heraldcorp.com