김장겸 의원, '포털 딥페이크 표시 의무제' 대표 발의

질의하는 김장겸 의원 [사진 연합뉴스]

국민의힘 김장겸 의원이 '포털과 플랫폼의 딥페이크 표시 의무제' 도입을 골자로 한 법안을 대표 발의했습니다.

과학기술정보방송통신위원회 소속인 김장겸 의원은 오늘(29일) 보도자료를 통해 "포털과 플랫폼의 AI생성물 표시를 의무화하는 내용의 정보통신망법 개정안을 대표발의했다"고 밝혔습니다. 딥페이크 AI 기술을 악용한 주식 리딩방 광고, 허위 성적 영상 등이 광범위하게 유통되면서 피해자가 빠르게 느는 등 사회적으로 논란이 일고 있는 가운데 이에 대한 실효적인 방지책을 마련하기 위한 일환으로 보입니다.

개정안의 주요 골자는 포털과 플랫폼 사업자에게 딥페이크 표시 의무를 규정함으로써 포털과 플랫폼의 역할과 책임을 강화하는 것입니다. 개정안에 따르면 일정 규모 이상의 포털 및 플랫폼 사업자는 정보를 생성하려는 이용자에게 해당 정보가 AI 기술을 이용해 만든 가상의 정보인지 여부를 표시할 수 있는 기능을 제공하도록 하고 있습니다. 해당 정보를 이용하려는 이용자가 AI 생성물인지 여부를 쉽게 식별할 수 있도록 하겠다는 취지입니다.

━

딥페이크 표시 가능하도록 의무화…어기면 1000만원 과태료

━
개정안은 딥페이크 표시 방법을 제공하지 않은 포털 및 플랫폼 사업자에게 1000만원 이하 과태료를 부과하도록 했습니다. 이와 함께 표시 의무를 위반한 AI 생성물을 탐지하고 삭제하는 등 유통방지 조치를 하도록 규정하고 있습니다. 개정안은 정보 생성 이용자에게도 AI 생성물 표시 의무를 부과하고 이 표시를 임의로 제거하거나 훼손할 수 없도록 규정했습니다.

다만 인공지능 기술의 사용 범위와 목적 등을 고려해 대통령령으로 정하는 인공지능 생성물에 한해서는 예외를 두기로 했습니다.

김장겸 의원은 "법안이 통과되면, 가상 정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜뉴스 피해를 예방할 것으로 기대한다"며 "딥페이크 등 불법 AI 생성물로 국민이 고통받지 않도록 조속한 입법에 최선을 다하겠다"고 말했습니다.