"딥페이크 범죄 막는다"…김장겸 의원 `AI 생성물 표시 의무제` 발의

김장겸 국민의힘 의원. [의원실 제공]

"지금 학생들은 두려움에 떨고 있습니다."

최근 인공지능(AI) 기술 대중화로 누구나 합성된 영상과 음성을 쉽게 만들 수 있게 되면서 이를 악용하는 사례가 발생하고 있다. 유명인의 얼굴과 목소리를 이용해 만든 딥페이크 생성물을 '리딩방 사기'에 활용하고 '허위의 성적 영상'을 무분별하게 유포하는 식이다. 특히 성적 내용 딥페이크 영상의 경우 그 피해가 대학생·여군·교사뿐 아니라 중·고교생 등 미성년자로도 확대 중이다. 국회 누리집에는 텔레그램에서 이뤄지는 이 같은 성범죄 가해를 강력히 처벌해달라는 국민동의청원까지 등장했다.

현행법상 방송통신심의위원회는 불법정보·불법촬영물 유통에 삭제 또는 차단 요구를 할 수 있고 시정명령이 이행되지 않을 경우 형사고발을 할 수 있다. 하지만 불법 유통물이 방대하게 쏟아지면서 즉각적이고 실효적인 대응이 어렵다는 지적이 나온다.

이에 국회 과학기술정보방송통신위원회 소속 김장겸 국민의힘 의원은 포털과 플랫폼의 AI 생성물 표시를 의무화하는 내용의 정보통신망법 개정안을 29일 대표발의했다. 불법 AI 생성물 유포를 선제적으로 차단하기 위한 포털·플랫폼의 역할과 책임을 규정한 것이 핵심이다.

개정안을 보면 일정 규모 이상의 포털·플랫폼 사업자는 AI 기술을 이용해 만든 가상의 정보인지를 표시할 수 있는 기능을 제공해야 한다. 정보 이용자가 AI 생성물 여부를 쉽게 식별할 수 있도록 하겠다는 취지다.

딥페이크 표시 방법을 제공하지 않은 포털·플랫폼 사업자에게는 1000만원 이하의 과태료를 부과해 실효성을 높였다.

포털·플랫폼 사업자들은 또 표시 의무를 위반한 AI 생성물의 탐지와 삭제 등 유통 방지 조치를 취해야 한다. 포털·플랫폼 사업자가 AI 생성물을 탐지할 수 있도록 AI 개발자에게 판독 방법을 제공할 의무도 부여했다.

아울러 정보를 게재하려는 이용자에게는 AI 생성물 표시의 무를 부과하고 표시를 임의로 제거하거나 훼손할 수 없도록 규정했다. 플랫폼 사업자가 표시 의무를 이행하지 않거나 임의로 제거·훼손한 이용자에게 경고 또는 이용정지, 수익 제한 조치를 할 수 있는 규정도 담았다.

다만 AI 기술의 사용 범위와 목적 등을 고려해 '대통령령으로 정하는 AI 생성물'에는 예외를 두기로 했다.

김장겸 의원은 "법안이 통과되면 가상 정보와 실제 사실을 구분할 수 있어 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜뉴스 피해를 예방할 것으로 기대한다"며 "딥페이크 등 불법 AI 생성물로 국민이 고통받지 않도록 조속한 입법이 이뤄지도록 최선을 다하겠다"고 말했다.

이번 개정안에는 엄태영·강승규·김예지·김재섭·김승수·최수진·고동진·박대출·박충권·이상휘·박정하·진종오·최은석·권성동·유상범·박수영·조정훈·송언석·김석기·김종양·권영진·김도읍 의원 등 22인이 공동발의자로 참여했다.윤선영기자 sunnyday72@dt.co.kr