윤영찬 "AI 워터마크, 美도 자율규제인데…왜 법제화 시도하나"

[2023국감]"정부, 인공지능법에 워터마크 의무화 시도"
"尹정부 가짜뉴스 방지책 중 하나인가…기업들 걱정 크다"
이종호 장관 "AI생성물 구분 필요…신뢰성 문제 해결돼야"

윤영찬 더불어민주당 의원. (사진=뉴시스)

[이데일리 한광범 기자] 정부가 인공지능(AI) 생성물에 가시적 워터마크 표시를 의무화하는 방안을 추진 중인 것과 관련해 윤영찬 더불어민주당 의원이 “생성형 AI가 활성화된 미국도 자율규제로 가는 마당에 왜 기술 초기 단계인 우리나라가 법제화를 추진하나”고 비판했다.

윤 의원은 27일 국회 과학기술방송통신위원회 종합 국정감사에서 정부가 마련 중인 ‘인공지능법’에 담긴 디지털 워터마크 표시 의무화에 동의하기 어렵다며 이 같이 밝혔다.

그는 “오픈AI의 챗GPT, 구글의 바드, 메타의 라마 등 미국에선 많은 생성AI 서비스가 활성화됐고 그래서 워터마크의 필요성이 대두되고 있다”며 “주요 빅테크들이 백악관에 모여 자발적으로 도입을 결의했지만 법제화는 안 됐다”고 지적했다.

윤 의원은 “우리나라는 미국에 비해 기술 수준이 떨어지고 이제 겨우 초거대 AI 모델들이 출시되는 단계다. 생성AI 완전 초보단계인 우리나라는 왜 워터마크를 강제화하려고 갑자기 법제화부터 던지며 서두르나”고 따져 물었다. 그러면서 “혹시 윤석열 정부의 가짜뉴스 방지 대책 중 하나냐”고 반문했다.

그는 이어 “워터마크 도입의 필요성에 다들 동의할 것이다. 하지만 기술 이용적 관점에서 걱정하는 기업들이 있고, 워터마크가 찍혔을 때 서비스적 관점에서 문제가 될 수도 있다. 스타트업들은 서비스적 관점에서 걱정을 하고 있다”고 우려했다.

윤 의원은 최근 구글 딥마인드가 베타 버전으로 내놓은 비가시적 워터마크 기술인 신스ID(SynthID)를 언급하며 “그런 기술 동향들까지 보면서 확신이 들면 자발적으로 도입해서 쓰면 되지, 왜 벌써 법부터 내놓고 서두르는 것이냐”고 따져 물었다.

신스ID는 디지털 워터마크를 이미지 픽셀에 직접 삽입한다. 사람 눈으로는 이를 직접 감지할 수 없지만 디지털 기술을 통해선 어렵지 않게 감지가 가능하다. 이와 관련해 우리나라 테크 기업 중 일부도 유사한 기술을 개발 중이거나 개발한 것으로 알려지고 있다.

앞서 과학기술정보통신부는 지난 25일 제4차 인공지능 최고위 전략대화에 참여한 국내 AI 기업들이 ‘가시적 워터마크’ 도입이 필요하다는 점에 공감하며 기술적 완성도를 고려해 자사 서비스에 단계적으로 적용하는 것에 동의했다고 밝힌 바 있다.

윤 의원은 “기업들이 자발적으로 한다고 했으니 그냥 놔두면 되지, 왜 법을 만드나”며 “생성 AI를 확산하다가 어떤 부작용을 보고 법제화를 시켜야지, 서비스가 나오지 않은 상태에서 왜 법제화부터 서두르나”고 비판했다.

이에 대해 이종호 과기정통부 장관은 “다른 나라의 디지털장관들을 만나보면 다들 이 문제(AI 생성물) 걱정을 많이 한다. 가시적 워터마크를 붙임으로써 AI 생성물인지 구분할 필요가 있다”고 강조했다.

그러면서 “우리나라 기업들의 초거대 AI 모델 생태계도 발전해야 하고, 제품이 제대로 팔리고 활성화되려면 AI의 신뢰성 문제가 해결돼야 한다”며 “이걸 극복해야만 우리나라 AI 제품이 잘 팔린다. 워터마크가 눈에 거슬린다면 비가시적 워터마크도 있다”고 말했다.

이 장관은 ‘기업 자율에 맡긴 후 부작용이 있을 때 법제화를 하는 게 순서에 맞다’는 지적에 대해선 “산업계 의견을 충분히 반영해 문제가 없도록 진행하겠다. 준비를 해야 신속하게 할 수 있다”고 답했다.

한광범 (totoro@edaily.co.kr)