성착취물 온상 딥페이크…'AI 가짜광고 차단' 법안 추진

국민의힘, 최근 '정보통신망법' 개정안 발의
딥페이크 성착취물 유포 및 허위 광고 급증
온라인상 정보 제공자에 'AI 표시' 의무 부과

딥페이크(인간 이미지 합성 기술) 성착취물 피해 예방과 인공지능(AI) 허위·과장 광고를 근절하기 위한 법안이 정치권에서 추진된다.

게티이미지

국민의힘 정책위 의장인 김상훈 의원은 이런 내용의 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’(정보통신망법) 개정안을 최근 대표 발의했다고 3일 밝혔다.

김 의원에 따르면 최근 제정된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 AI 사업자가 인공지능으로 만든 결과물에 ‘AI 생성 표시’를 하도록 의무화했다.

하지만 현행 정보통신망법에는 온라인상에서 ‘정보를 제공하는 자’에게 AI 생성 표시를 의무화하거나 불법 유통을 금지하는 내용이 없다. 이 때문에 딥페이크 성범죄나 허위 정보의 게시·유포를 규율할 수단이 미비하다는 게 김 의원의 판단이다.

실제 최근 SNS 등에서는 딥페이크 성착취물 유포 행위뿐 아니라 AI 조작 영상으로 제품 효과를 허위·과장하는 불법 광고가 늘어나는 추세다.

김 의원이 공개한 불법 광고 사례를 보면 ▷‘물에 풀어서 쓰면 살이 저절로 빠진다’는 입욕제 ▷‘눈가에 바르면 1분 만에 주름이 개선된다’는 화장품 ▷‘가발처럼 머리카락이 빽빽해진다’는 탈모약 등이 소비자를 현혹하고 있다.

방송통신심의위원회에 따르면 지난해 X(엑스·옛 트위터)와 인스타그램, 페이스북, 유튜브, 틱톡 등 5개 SNS에서 적발된 허위 불법 광고는 총 5만9021건에 달했다. 이 가운데 식·의약품과 관련한 불법 광고는 7773건(13.2%)으로 집계됐다.

이뿐만 아니라 AI로 생성한 광고물(영상·이미지·댓글 등)을 실제 사용후기인 것처럼 게시하면서, 정작 실사용자들의 후기는 올리지 못하도록 댓글 게재를 막는 등 소비자를 기만하고 있어 대책 마련이 시급하다.

이에 개정안은 온라인상 정보 제공자에게도 AI 기술로 생성한 딥페이크 이미지·영상 등의 표시 의무를 부과하고, 해당 표시를 훼손하고 영리 목적으로 제공할 경우 유통을 금지함으로써 AI 생성물 불법 이용에 대한 규율을 강화할 수 있도록 했다.

김 의원은 “최근 생성형 AI 사용량이 폭증함에 따라 AI 조작 생성물 또한 증가할 것으로 예상돼 선제적인 대응책 마련이 필요하다”며 “법 개정을 통해 AI 조작 성범죄 및 사기 판매 행위를 근절하고 허위 정보 및 가짜뉴스의 확산도 방지할 수 있을 것으로 기대한다”고 밝혔다.