손흥민이 "급등 우량주 3개 무료 공유"…이런 딥페이크 난무

與 김장겸, 과방위서 영상 틀며 심각성 경고

딥페이크 기술로 생성한 손흥민 선수의 모습 (김장겸 의원실 제공)

(서울=뉴스1) 박소은 기자 = 국회 과학기술정보방송통신위원회에서 딥페이크 활용 디지털 성범죄 위험성을 환기하기 위한 영상이 28일 공개됐다.

김장겸 국민의힘 의원은 이날 오전 국회 과방위 전체회의에 참석해 축구선수 손흥민을 활용한 딥페이크 영상을 공개했다.

해당 영상에 등장한 손흥민 선수는 "저는 축구선수이자 경험 많은 투자자입니다. 인스타그램 팔로워 1400만 명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유해 드립니다"고 말했다. 기존 손흥민 선수의 목소리를 그대로 차용했고, 입 모양 또한 음성에 맞춰 움직였다.

영상 속 손흥민 선수는 이어 "'어시스턴트' 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있습니다"고 홍보하기도 했다.

김장겸 국민의힘 의원이 25일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 5차 전체회의에서 의사진행 발언을 하고 있다. 2024.6.25/뉴스1 ⓒ News1 이광호 기자

김 의원은 김태규 방송통신위원회 직무대행(부위원장)에게 "이게 딥페이크를 통해 합성한 영상인데, 유튜브와 SNS에서 노출되고 있다"며 "불법 투자방으로 유도하기 위한 것이다. 대책이 있나"라고 질의했다.

김 직무대행은 "지금 딥페이크 영상물 피해자 신상정보도 긴급 심의에 포함하는 내용, AI 생성물 표시제 도입하는 부분, AI 서비스 이용자 보호 법규 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다"고 답했다.

이어 "텔레그램과 관련해서는 그룹채팅방이나 채널 서비스 등에서 공개되는 영역에 대해서는 불법 촬영물 등의 삭제나 유통 방지 의무를 부여하는 방법, 제재를 강하는 게 가능한지에 대해 법률적인 검토를 더 해 볼 예정"이라고 덧붙였다.

soso@news1.kr