지난 국회서 폐기됐던 ‘딥페이크 방지법’… 음란물 피해 예방 가능할까

가족, 지인 등의 사진에 음란물을 합성해 만든 딥페이크(deepfake) 음란물 파문이 전방위로 확산하고 있지만 인공지능(AI) 기술이 범죄에 악용된 경우 이런 생성물을 식별해 걸러낼 수 있는 제도적 장치는 아직 없다. 관련 법안이 국회에 발의돼 있으나 모두 계류 상태다.

22대 국회가 시작된 뒤 AI 기술의 안전성·신뢰성 확보, 검·인증 규제체계 마련 등을 취지로 발의된 법안만 27일 기준 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등 8개다. 해당 법안 역시 AI 기술이 악용되는 우려를 막고자 발의됐다.

이번 국회에서 발의된 대부분 법안은 21대 국회에서 임기 만료로 자동 폐기된 뒤 재발의됐다. 21대 국회에서 국민의힘 김승수 의원이 대표 발의한 정보통신망법 일부개정안이 전 국회 과학기술정보방송통신위원회 전체회의에서 법안소위로 넘어가는 등 논의가 다시 시작됐다.

이 법안은 AI 생성물에 가상의 정보라는 특정 표식, 이른바 ‘워터마크’나 메타데이터를 넣도록 하고 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화했다. 국회 입법조사처는 이 법안의 입법 영향 분석 보고서에서 “이미지·영상·음성 등을 인공지능으로 만들었다는 것을 의무적으로 표시할 경우 사람들이 가상 정보와 실제 사실을 쉽고 효과적으로 구분하게 되고, 최근 고도로 정교해진 딥페이크 문제를 줄이는 효과를 기대할 수 있다”고 했다.

다만 이 법안이 통과됐더라도 어떤 생성물이 AI를 쓴 딥페이크라고 정확하게 가려내고 표시하기가 기술적으로 상당히 어렵다는 한계는 있다. 이런 문제가 법안이 통과되고 제도가 정립되는 데 가장 큰 장애요인으로 꼽히기도 한다. 오픈소스로 공개된 AI 모델을 쓴 딥페이크는 추적이 쉽지 않다.

일각에서는 AI 기술이 악용돼 규제 법안이 만들어졌다가 생성형 AI 산업 발달을 가로막는 것 아니냐는 우려도 제기한다. 입법조사처도 보고서에서 “표시 기술과 제도의 불완전성, 산업계 부담 증가, 개인 표현의 자유 제한 등 문제가 예상되므로 적절한 보완 조치가 필요할 것”이라고 첨언했다. 법안에 담긴 AI 생성물이 딥페이크가 아니라는 증명이 안 될 시 즉시 삭제하도록 강제한 데 플랫폼 기업들은 “딥페이크 생성물의 완벽한 식별은 기술적으로 난도가 높아 즉시 삭제는 어렵다”는 입장을 밝힌 것으로 전해진다.

정부 역시 규제와 산업 발달 사이에서 고민하고 있다. 강도현 과학기술정보통신부 2차관은 이날 국회 과방위 전체회의에 출석해 텔레그램을 이용해 확산한 딥페이크 음란물 문제를 “굉장히 심각한 상태이고 피해자 입장에서 검토를 좀 강하게 해야 하는 것 아닌가 싶다”고 말했다. 

그러나 딥페이크 음란물 문제를 해결하기 위한 방법으로 이 법안을 서두르기는 어려운 실정이다. 과기정통부 관계자는 “AI 워터마크라는 것이 종이에 찍는 워터마크처럼 정확히 표시할 수 있는 성격이 아니고 AI 산업 발달을 저해하지 않는 방안도 필요하다”며 “정확한 방법론을 고민 중”이라고 말했다.

과기정통부는 지난해부터 내년까지 24억원을 투입, 성균관대 산학협력단 등과 함께 악의적으로 변조된 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성 억제 기술을 연구개발 중이다. 또 진짜 데이터가 가짜 데이터를 찾아 진위를 가리는 기술인 ‘생성적 적대 신경망(GAN·Generative Adversarial Networks)’ 기술을 활용하는 방안도 검토 중이다.

한국정보통신기술협회(TTA)는 딥페이크 방지법 제정과 별도로 플랫폼 및 생성형 AI 업계에 제시할 지침인 ‘AI 워터마크 적용 가이드라인’을 연내 마련한다는 계획이다.

박유빈 기자 yb@segye.com