'딥페이크' 활개치는데···국회 발묶인 AI기본법

[현실 못 따라가는 법·세제]
작년 '性 허위영상' 신고 7187건
EU 'AI법' 통과···"조작사실 명시"
韓, 관련법 국회 계류·폐기 반복

[서울경제]

기술 발달에 따른 성폭력·명예훼손 범죄가 매년 증가하고 있지만 처벌 수준은 미미하다는 지적이 꾸준히 제기되고 있다. 전문가들은 인공지능(AI) 등을 활용한 허위 조작 정보의 경우 빠른 속도로 광범위하게 유통되고 피해 회복이 어려운 만큼 선제적인 대응책과 함께 강력한 처벌이 필요하다고 입을 모은다.

23일 경찰에 따르면 딥페이크(AI를 이용해 만든 가짜 이미지·영상물) 관련 범죄로 경찰에 검거된 인원은 2021년 79명에서 2023년 100명으로 증가했다. 해외에 서버를 둔 플랫폼에서 유포했을 때는 가해자를 찾는 것 자체가 쉽지 않아 실제 행해지는 범죄는 훨씬 많을 것으로 추정된다. 같은 기간 방송통신심의위원회가 처리한 성적 허위 영상 정보 건수도 1913건에서 7187건으로 기하급수적으로 증가했다. 최근 동문 여성들의 사진으로 허위 성착취물 영상을 만들어 재판에 넘겨진 ‘서울대 N번방’ 사건이 대표적인 딥페이크 범죄다. 경찰 관계자는 “텔레그램 등 온라인 플랫폼상에서 유포되는 가짜 영상물의 용의자가 특정되면 영장 청구를 할 수 있다”면서도 “현재 용의자 특정 자체가 어려워 협조가 힘들어 검거하는 데 고충이 있는 실정”이라고 토로했다.

날로 진화하는 AI 기술이 성범죄를 포함한 다양한 범죄 영역에 악용되고 있는 만큼 적극적이고 체계적인 규제가 필요하다는 목소리가 나온다. 해외의 경우 글로벌 빅테크들을 중심으로 AI 제작물 표시를 의무화하는 등 본격적인 규제에 나섰다. 유럽연합(EU)은 3월 딥페이크를 생성·조작하는 AI 시스템의 배포자는 해당 콘텐츠가 인위적으로 생성 또는 조작됐다는 사실을 공개해야 한다고 명시한 인공지능법(AI ACT)을 통과시켰다. 미국은 이미 지난해 AI 생성물에 워터마크(식별표시) 표시를 의무화했다.

반면 우리나라의 경우 아직까지 구체적인 규제책이 없는 실정이다. 2020년 21대 국회에서 처음으로 처음 ‘AI 기본법’이 발의됐으나 폐기됐다. 22대 국회에서는 딥페이크 영상, 음향 등 AI 기술을 이용해 제작한 정보를 온라인에 게재할 때 워터마크 표시를 의무화하는 내용을 골자로 하는 정보통신망법 일부 개정 법률안이 계류 중이다.

한편 딥페이크 범죄가 입증되더라도 처벌이 솜방망이 수준에 머물러 있는 점도 지적된다. 2020년 도입된 이른바 딥페이크 방지법(성폭력 범죄의 처벌 등에 관한 법률 개정안)은 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처할 수 있다고 규정한다. 그러나 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 딥페이크 범죄만으로 실형을 선고받은 경우는 4건에 불과한 것으로 파악됐다. 장윤미 여성변호사회 공보이사는 “딥페이크 범죄 등 디지털 성범죄의 경우 피해자의 피해가 잘 헤아려지지 않는 경향이 있다”며 “피해가 광범위하게 확대 재생산되는 만큼 사회적인 인식 제고와 함께 가벌의 범위를 높일 필요가 있다”고 말했다.

정유민 기자 ymjeong@sedaily.com이승령 기자 yigija94@sedaily.com박민주 기자 mj@sedaily.com