타깃 된 AI 생성물… 출처 표시 안하면 과태료 1000만원?

AI 콘텐츠 워터마크 강제 법안 발의
개인도 규제… 산업 발전 악영향 우려
업계 “과도”… 국내만 역차별 지적도

게티이미지뱅크

인공지능(AI)으로 만든 가상의 이미지나 영상을 ‘AI가 만들었다’고 표시하도록 하는 정보통신망법 개정안이 22대 국회에서 재발의됐다. 가짜로 만든 콘텐츠임을 표시하지 않으면 제작자뿐만 아니라 이를 유포한 사람, 유통한 플랫폼까지 1000만원 이하의 과태료를 부과할 수 있다는 내용이 골자다. 딥페이크 기술을 악용한 범죄나 가짜뉴스로 인한 피해를 막겠다는 취지지만 정부와 업계에서는 “과도한 규제”라는 반응이 나온다. AI로 만든 창작물을 한꺼번에 규제하면 산업 발전에 악영향을 미치고, 국내 기업에 대한 역차별이 될 수도 있다는 것이다.

김승수 국민의힘 의원은 지난 6월 AI로 만든 콘텐츠에 ‘가상의 정보’임을 표시하도록 의무화하는 내용의 정보통신망법 개정안을 발의했다. 지난 국회에서 같은 내용의 개정안이 임기 만료로 폐기되자 이번 국회에서 재발의한 것이다. 김 의원은 “AI 기술을 이용한 가상의 정보에 따른 이용자의 혼란을 방지하기 위함”을 제안 이유로 들었다. 이용자가 AI 생성 이미지나 영상을 판단하기 어려워 생기는 피해를 막기 위해 모든 콘텐츠에 일종의 워터마크를 의무화하자는 것이다.

하지만 업계뿐 아니라 정부 반응은 회의적이다. 개정안 취지에는 공감하지만 규제에 드는 비용에 비해 실효성이 낮다는 것이다. 업계 관계자는 26일 “기술적으로는 어렵지 않지만 워터마크를 표시한 이미지나 영상은 유통되는 과정에서 얼마든지 편집이 가능하다”며 “편집 여부를 콘텐츠 내 이력 정보에 담으면 AI 콘텐츠임을 식별할 수는 있지만, 일반 이용자가 직관적으로 AI 이미지임을 알기 어려운 점도 있다”고 말했다.

과학기술정보통신부와 문화체육관광부 등도 개정안 논의에 신중한 입장을 내놨다. 정부는 국회입법조사처 입법 영향 분석 보고서를 통해 “정보제공자에 법인이 아닌 개인이 상당수 포함될 것으로 예상되는 상황에서 개인에게 직접 표시 의무를 부과하는 것은 과도한 의무 부과에 해당한다”고 밝혔다. 콘텐츠 생산의 일부만 AI를 활용한 경우도 모두 규제 대상에 포함하는 것은 적절하지 않다는 의견도 있었다. AI를 활용한 프로필 이미지 같은 콘텐츠에도 워터마크를 강제하면 이용자가 서비스 이용을 꺼리게 돼 콘텐츠 산업 자체가 발전하기 어렵다는 것이다.

AI로 생성한 콘텐츠를 모니터링하는 데 따른 행정력 낭비도 우려된다. 전담 부서와 인력이 필요한 데다가 AI 기업이 자체적으로 기술을 개발하는 등 규제에 따른 비용도 발생할 수 있다. AI 콘텐츠를 식별하는 데 비용이 과도하게 들거나, 특정 기업이 표시 방법을 독점하는 폐쇄적인 생태계로 운영될 경우에는 자금력이 충분하지 않은 스타트업과 영세 중소기업은 시장에 진출하기 어려워질 수도 있다.

이미 기업들이 AI 콘텐츠를 식별하도록 하는 기술을 개발하고 있는 만큼 자율 규제에 맡겨야 한다는 목소리도 있다. 정준화 입법조사관은 “논의 과정에서 법안이 구체성을 띠는 방향으로 보완될 필요가 있다”고 말했다.

심희정 기자 simcity@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지