“딥페이크IR·가짜 CEO 영상, 현행법으로 막기 어렵다”

AI 투자자 기만 규제 공백···AI기본법 '생성물 표시 의무', 실효성 낮아
"고위험 영역 분리해서 AI 맞춤형 규율 기준 마련해야"
투자자 속이는 딥페이크는 입법 논의조차 안돼

딥페이크(deepfake) 일러스트 / 사진=연합뉴스

[시사저널e=김도영 기자] 인공지능 기본법 시행으로 생성형 AI 결과물에 대한 표시 의무가 도입됐지만, 딥페이크를 악용한 투자자 기만 행위는 사실상 규제 공백 상태에 있다는 지적이 제기됐다. 딥페이크 CEO 영상과 가짜 IR 자료 등 AI 기반 투자 사기가 현실화하고 있지만 현행법상 이를 별도로 규율할 수 있는 법적 기준이 미비하다는 분석이다.

14일 시사저널e 취재에 따르면 현행 AI 규제는 '생성물 표시'에 초점이 맞춰져 있다. 고지나 가시적 워터마크 같은 보호 장치들이 일부 도입돼 있지만 콘텐츠가 다운로드·재가공돼 외부로 유통되는 순간 표시 의무를 강제하기 어려워 규제 실효성이 크게 약화한다는 한계가 지적된다. 

박상철 서울대학교 법학전문대학원 교수는 "딥페이크에 대해 표시 의무를 규정하는 법안이 제출되어 있는 상황이고, 생성물에 대한 워터마킹은 AI 기본법에서 규율하고 있다"면서도 "AI로 생성된 결과물이 다운로드돼 외부로 반출되고, 다시 배포(deploy)되는 과정에서 표시(레이블링)를 어떻게 유지할 것인지에 대한 문제가 여전히 남아 있는 상황"이라고 말했다.

AI 기본법상 AI 활용 사실을 이용자에게 사전 고지하는 '이용자 고지 의무'와 생성형 AI로 만든 이미지·영상 등에 육안으로 확인 가능한 표식을 삽입하는 '가시적 워터마크 표시 의무'는 큰 실효성이 없다는 게 박 교수의 설명이다. AI 이용자들이 AI를 활용하고 있는 사실을 모를 수가 없을뿐더러 가시적 워터마크 역시 유통 과정에서 제3자가 표식만 제외해 편집하면 그만이라는 것이다.

이에 박 교수는 "일률적으로 딥페이크에 대한 표시 의무를 규율하기보다는 AI 고위험 오용행위인 성범죄, 선거(유권자 기만), 소비자 기만, 투자자 기만 즉 4가지 분야별로 맥락에 따라 규율해야 한다"고 강조했다. 고위험 영역을 따로 분리해서 AI 맞춤형 규율 기준을 마련해야 한다는 입장이다. 

현재 박 교수가 제시한 고위험 영역 중 성범죄와 선거 관련 딥페이크 제재 규정은 현행 법 체계에 이미 잘 정비돼 있는 상황이다. 성범죄는 성폭력처벌법, n번방법 등으로 딥페이크를 포괄하는 처벌 근거가 마련됐고, 선거 역시 2023년 12월 공직선거법이 개정되며 딥페이크 관련 규정이 정비된 바 있다. 

결국 공백으로 남아 있는 영역은 소비자 기만과 투자자 기만이다. 그러나 소비자 기만 딥페이크의 경우 현재 발의돼 있는 AI 법안 60여 건 중 20건 이상이 관련 법안일 정도로 활발하게 논의되고 있지만, 투자자 보호를 위한 입법은 논의조차 되고 있지 않은 게 현실이다. 딥페이크 CEO 영상과 IR 자료 등 가짜 투자 콘텐츠가 미치는 피해의 정도나 파급력은 크지만, AI에 맞춘 별도 규율이 없어 자본시장법 등 기존의 포괄적인 규정으로만 대응해야 한다는 것이다. 

박 교수는 "현재처럼 투자 사기와 관련된 규제가 충분히 정비되지 않은 상태가 지속되면 존재하지 않는 '보물섬'을 발견한 것처럼 AI로 합성해 유포하고 이를 통해 시세를 조정하는 행위가 가능해질 뿐만 아니라 실제 기자가 작성한 기사인 것처럼 위조된 콘텐츠를 리딩방 등에 유포하는 경우가 생길 수 있다"며 "그렇게 되면 시장이 심각하게 왜곡되고 시장 질서가 크게 훼손될 것"이라고 우려했다. 

최근 증시 호황 흐름에 힘입어 개인 투자자들이 급속도로 증가하고 있는 만큼 투자 판단을 저해하는 딥페이크의 파급력은 점차 커질 것으로 보인다.

박 교수는 "투자자 보호에 대한 별도의 법 정비가 필요한 상황"이라며 "금융위원회가 중심이 돼 허위 공시나 부실 공시 관련 규제를 선제적으로 보완할 필요가 있다"고 제언했다.