딥페이크 피해 예방법으로 거론되는 워터마크, 효과는?

이미지 출처 언스플래시

딥페이크 기술을 이용한 성착취물 피해가 확산하면서 인공지능(AI) 생성 콘텐츠에 ‘꼬리표’를 다는 방안이 부각되고 있다. 사후 처벌 강화, AI 리터러시(문해력) 교육 등 딥페이크 피해를 방지하기 위한 다각도 방안 중 하나로 워터마크 의무화가 필요하다는 것이다.

AI 워터마크는 AI 기술로 제작한 콘텐츠에 삽입되는 표식이다. 눈에 띄는 표식을 넣을 수도 있고, 보이지 않는 정보를 심는 방법도 있다. 실제와 구분하기 어려운 이미지와 영상, 음성을 동원한 가짜뉴스가 범람하고 성착취물 피해가 커지면서 각국은 워터마크를 AI 안전장치로 검토하고 있다.

한국 정부도 지난 5월 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 AI 생성물 ‘워터마크’ 의무화를 내걸었다. 국회에는 관련 법안들이 발의돼 있다. 김승수 국민의힘 의원은 지난 6월 AI로 만든 음향, 영상, 이미지 등 콘텐츠에 가상 정보임을 명확하게 표시하도록 의무화하는 정보통신망법 개정안을 발의했다. 위반 시 정보제공자에게 1000만원 이하의 과태료를 물리고, 플랫폼 기업에 표시 없는 AI 생성물 삭제 의무를 부과하는 게 골자다.

AI 워터마크 도입을 의무화하면 인터넷 이용자들이 가짜 콘텐츠에 속아 발생하는 피해를 예방할 수 있을 것으로 기대된다. 범죄자 입장에선 딥페이크 범죄를 감행할 유인이 줄어들 수 있다. 물론 각종 기술로 워터마크와 이를 탐지하는 도구가 무력화될 수 있는 한계도 존재한다.

해당 법안의 입법 영향을 분석한 국회 입법조사처 보고서를 보면 정부와 산업계는 획일적 규제로 인한 과잉규제를 우려했다. 법안이 사업자와 개인, 제작자와 유통자를 구분하지 않은 점, 다양한 AI 기술 이용 수준·방법을 고려하지 않은 점을 들었다. 주요 AI 서비스나 플랫폼을 운영하는 해외 기업은 놔두고 국내 기업만 강하게 규제하는 역차별 가능성도 제기됐다. 실효성을 확보하기 위해선 제도가 보다 정교해야 한다는 얘기다.

전 세계적으로 기술기업들이 워터마크 도입에 나서고 있는 점은 긍정적이다. 구글, 오픈AI, 메타 등은 자사 AI 도구로 만든 이미지 등에 워터마크를 새긴다. 이미지, 영상을 넘어 텍스트까지 AI 생성 여부를 가려낼 수 있는 기술을 개발하고 있다.

구글, 마이크로소프트, 인텔, 어도비 등 100여개 기업들은 ‘콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)’을 꾸려 워터마크 기술 표준 개발에 머리를 맞댔다. 국내에선 네이버가 동참하고 있다. 이를 토대로 일부 플랫폼은 타사 AI 도구로 만든 콘텐츠까지 식별해 자동으로 ‘AI 생성’ 표시를 추가하는 정책을 시행 중이다. 정작 딥페이크 범죄의 통로가 된 메신저 텔레그램은 AI 안전을 추구하는 흐름에서 벗어나 있다.

이성엽 고려대 기술경영전문대학원 교수는 통화에서 “딥페이크로 인한 피해가 극심한 만큼 워터마크 의무화는 최소한의 규제라고 본다”며 “의무화를 원칙으로 하되 기업이 어려움을 겪는 부분은 정부가 지원하는 방향으로 가야 한다”고 말했다. 그는 “사후 처벌과 AI 리터러시를 강화하고 국제적 공조를 확대하는 등 광범위하게 대응할 필요가 있다”고 말했다.

한진영 성균관대 인공지능융합학과 교수는 이날 국민생활과학자문단이 개최한 ‘생성형 AI의 사회적 이슈와 대응’ 토론회에서 “기술적인 노력뿐만 아니라 제도와 교육이 함께 가야 한다”며 “정부도 딥페이크 연구 과제를 이슈가 발생했을 때 단발적으로 진행하기보다 끊임없이 해야 한다”고 말했다.

노도현 기자 hyunee@kyunghyang.com