딥페이크 자율규제서 사전규제로 바뀌나… 방심위, 규제 방안 모색

“미국·EU AI 법·제도 방안 분석해 합리적 규제 마련”
4.10 총선 노린 딥페이크 게시물 384건 적발
국내외서 자율규제 한계 목소리

일러스트=챗GPT 달리3

생성형 인공지능(AI) 발전으로 딥페이크(AI로 만든 영상·이미지 합성 조작물) 악용 사례가 속출하는 가운데 방송통신심의위원회(이하 방심위)가 새로운 딥페이크 규제 방안을 모색하기로 했다. 기업들의 자율규제에서 정부가 직접 개입하는 사전규제로 탈바꿈할지 관심이 모아진다.

18일 관련 부처에 따르면, 방심위는 다음 달부터 약 5개월 간 ‘AI 및 딥페이크에 대한 해외 규제 현황 연구’를 진행할 예정이다. 국내 모든 방송과 인터넷을 심의하는 방심위는 민간기구지만, 심의·의결한 제재를 정부부처인 방송통신위원회가 처분해 사실상 행정기관 역할을 하고 있다.

딥페이크가 다양한 산업에 활용될 수 있는 긍정적인 측면도 있으나, 불법적으로 악용되거나 실제와 구별하기 어려운 조작된 정보·영상 유통 등으로 피해를 유발 수 있어 사회적 우려가 확산하고 있다는 게 방심위의 설명이다.

방심위가 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 2020년 473건에서 2021년 1913건, 2022년 3574건, 지난해(11월 기준) 5996건으로 급증하는 추세다.

딥페이크 콘텐츠가 전 세계적으로 선거 기간을 노리고 기승을 부리면서 민주주의 체제가 무너질 수 있다는 경고까지 나오고 있다. 중앙선거관리위원회에 따르면 올해 1월 29일부터 지난 9일까지 4.10 총선 기간 적발된 선거 관련 딥페이크 게시물은 총 384건이었다.

총선 기간 인터넷기업협회 등을 중심으로 네이버, 카카오, 네이트, 구글, 메타 등 국내외 주요 플랫폼 기업들이 선거와 관련한 딥페이크 대응을 위한 자율협의체를 구성한 바 있다.

이에 자율규제를 넘어 사전규제로 딥페이크에 대응할 수 있는 법적 체계를 갖춰야 한다는 목소리가 나온다. 방심위는 미국, 유럽연합(EU) 등 해외의 딥페이크 관련 법·제도적 규제 현황을 분석하고, 글로벌 기업들의 자율규제 상황을 분석해 합리적인 방안을 모색하겠다는 계획이다.

EU는 지난 2월 AI 활용 분야를 총 4단계의 위험 등급으로 나눠 차등 규제하는 포괄적 AI 규제법을 마련했다. 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 하고, 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금을 부과한다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며 단계적으로 도입돼 2026년 이후 전면 시행된다.

생성형 AI의 본고장인 미국에서도 이미 딥페이크 등 AI 기술의 오용을 막기 위한 규제를 강화하는 분위기다. 조 바이든 대통령은 지난해 10월 ‘안정적이고 안전하며, 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다. 행정명령에 따라 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보를 제품 출시 전 미국 정부와 사전 공유해야 한다. 정부가 사실상 AI 서비스에 대해, 기술 개발부터 서비스 과정에 이르는 전 과정에 개입해 관리·감독하겠다는 의지다.

방통위도 지난달 21일 AI 서비스의 신뢰성을 보장하고, 역기능으로부터 이용자를 보호하기 위한 ‘인공지능서비스 이용자 보호에 관한 법률’(가칭) 제정을 추진한다고 밝힌 바 있다. 법안의 내용은 AI로 생성한 콘텐츠를 게시할 경우 AI 생성물임을 표시하도록 의무화하고, 관련 피해구제를 위한 신고 전담창구를 설치하는 것이다.

방심위 관계자는 “연구를 시작하는 단계인 만큼 해외 사례를 충분히 검토해야 해 아직 어떤 규제 방향이 나올지는 예단할 수 없다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -