[씨줄날줄] AI 콘텐츠 워터마크/황성기 논설위원

이탈리아 북부 도시 볼로냐는 세 가지 별명을 가졌다. ‘뚱보들의 도시’, ‘빨간 도시’, ‘현자(賢者)들의 도시’다. 볼로냐의 기름진 음식 덕에 비만해진 사람이 많고 붉은 벽돌 건물이 많은 데 따른 것이다. 현자 도시는 세계에서 가장 오래된 볼로냐대학이 있어서 붙여진 영예로운 별명이다. 볼로냐대학은 1088년 설립됐다. 지적인 도시답게 문명도 그 어느 곳보다 앞서갔다.

콘텐츠를 식별하는 워터마크의 발상지가 볼로냐인 사실은 그리 놀랍지 않다. 볼로냐 고문서관에 가면 ‘1282년’이란 식별이 들어간 문서를 볼 수 있다. 볼로냐에서는 13세기부터 우표나 지폐, 정부 공문서에 위조를 막으려 워터마크를 넣었다. 예나 지금이나 공문서 위조는 단골 범죄였던 셈이다. 당시 워터마크는 종이를 불빛에 비추거나 종이가 젖었을 때만 볼 수 있었다. 종이가 젖은 상태에서 표시를 넣기 때문에 워터마크(watermark)란 이름이 붙었다. 800년 역사를 지닌 워터마크는 진화를 거듭하고 있다.

위조 방지나 저작권 보호가 목적인 워터마크가 인공지능(AI) 콘텐츠를 식별하는 데 도입이 된다. 주요 7개국(G7)이 생성형 AI 도입 이후 가짜뉴스가 폭증하자 국제행동강령을 만들어 강력한 대처를 준비 중이다. 언론 자유를 중시하는 유럽이 AI에 의한 가짜뉴스, 가짜 콘텐츠 퇴치에 주도적인 것은 그만큼 AI 폐해가 심각하기 때문일 것이다.

지난 5월 일본 히로시마 G7 정상회의 때 논의가 시작됐다. 당시 정상들은 AI 기술을 통제할 국제 규범이 필요하다는 데 인식을 같이하고 규범안을 협의해 오다 이번에 결실을 맺었다. 행동강령은 AI 관리·보안 강화, 개인정보 보호 등 총 11개 항목으로 구성됐다. 기업들은 AI의 위험성을 줄이고 사이버안보 투자를 강화하며, AI 시스템의 성능·제약·오용 사례에 대한 보고서를 공개해야 한다.

가장 중요한 것이 AI가 생성한 콘텐츠에 워터마크를 달도록 한 점이다. 앞으로 AI 콘텐츠에 공인된 워터마크가 없다면 가짜라고 봐도 될 것이다. G7의 행동강령은 구속력은 없다. 그러나 가짜뉴스로 고민하는 국가들에게 강령은 당분간 AI 콘텐츠의 규제 기준이 될 것으로 기대된다. 우리도 도입이 시급하다.

황성기 논설위원