인스타그램은 'AI 가짜 이미지' 딱지 붙는데… 한발 늦는 한국

AI 기본법 1년째 계류… 21대 국회 통과도 불투명 
네카오 자체 대응법 연구하지만… "역부족" 지적

사회관계망서비스 업체 '메타'의 로고와 메타의 핵심 서비스 페이스북, 인스타그램, 와츠앱 로고. AFP 연합뉴스

생성형 인공지능(AI)이 만드는 '가짜' 영상·이미지·음원·뉴스 등에 전 세계가 비상이다. 챗GPT를 만든 오픈AI에 이어 페이스북과 인스타그램의 '아버지'인 메타도 AI 이미지를 알아차리는 딱지(워터마크)를 붙인다고 선언했다. 유럽과 미국을 중심으로 AI 저작물을 대상으로 적극적으로 규제하는 분위기가 확산하는 모습이지만 국내는 관련 논의가 지지부진하다.

연관기사

• "이거, AI가 만든 겁니다"... 메타, AI 생성 이미지에 '가짜 딱지' 붙인다
(www.hankookilbo.com/News/Read/A2024020709200005260)

7일 국회 의안정보시스템에 따르면 이른바 'AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)'이 국회 과학기술정보방송통신위원회(과방위)에 1년 넘게 계류 중이다. 이 법은 AI에 대한 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성을 담고 있다. AI 기술을 발전시켜 관련 제품·서비스를 먼저 출시하고 사후 규제하자는 것. AI 저작물에 워터마크를 포함하는 내용도 있다.

AI 기본법은 본래 여야 이견이 적을 법안으로 예상됐으나 표류 중이다. "AI 위험성을 예방하기에 법안 내용이 부족하다"는 시민단체 지적을 받은 이후 여야 논의 자체가 멈춰 상임위 문턱도 못 넘었다. 21대 국회 임기 내 통과도 불투명하다. 국회 과방위 관계자는 "AI 관련 법안은 주목도가 높지 않고 소위 '총선용 인기 법안'과도 거리가 멀다"면서 "2월 임시국회에서 여야가 적극적으로 협의해 통과되기는 어려울 것 같다"고 내다봤다.

AI 기본법 제정에 시간이 많이 걸리다 보니 '워터마크만 먼저 표기하자'는 대안도 나온다. K팝 스타를 모방한 'AI 음원'이 범람하고 딥페이크(AI로 만든 가짜 이미지·영상) 기술을 악용한 콘텐츠 유통 문제가 심각하니 급한 불부터 끄자는 것. 콘텐츠산업진흥법 개정안(이상헌 더불어민주당 의원)과 정보통신망법 개정안(김승수 국민의힘 의원)이 AI 저작물에 일종의 워터마크 표시를 의무화하는 내용을 담고 있다.

하지만 해당 법안들은 산업계의 반대가 크다. 국내 스타트업 관계자는 "생성형 AI 기술은 이제 개발 단계여서 발전 가능성이 무궁무진한데 싹을 자르는 격"이라며 "딥페이크는 기술 자체보다 유통 과정에서 비롯한 문제"라고 주장했다. 실제 빅테크 기업이 없는 유럽연합(EU)은 플랫폼 기업에 AI 생성물 표시를 의무화했지만 빅테크 기업을 보유한 미국은 플랫폼의 자율 규제 강화를 권하는 분위기다.

---

기업 자율 규제 마련하지만… '역부족' 지적

생성형 인공지능(AI)의 오남용 사례가 늘어나면서 AI 규제와 관련된 논의가 진행되고 있다. 게티이미지뱅크

국내 기업들도 기술 보완에 한창이다. 카카오는 AI 콘텐츠의 허위 정보나 딥페이크를 검출하는 연구를 진행하고 있다. 특히 생성형 AI 이미지 확산을 막기 위해선 카카오브레인의 이미지 생성 모델인 '칼로(Karlo)'에 비가시성 워터마크 기술을 도입하는 방안을 검토하고 있다. 네이버도 AI 안전성 연구를 전담하는 조직인 '퓨처 AI센터'를 신설하고 이미지와 텍스트 등 AI 저작물에 워터마크를 도입하는 방안을 연구하고 있다.

문제는 기업이 자율 규제를 마련하는 속도보다 유해한 AI 저작물 확산 속도가 훨씬 빠르다는 것이다. 이성엽 고려대 기술법정책센터장은 "특히 선거를 앞두고 딥페이크 영상, 이미지에 대한 우려가 커지고 있는 만큼 워터마크 도입은 최소한의 규제로 봐야 한다"면서 "플랫폼들이 AI저작물을 걸러내고 삭제할 수 있게 책임을 강화하는 쪽으로 입법 논의가 시급하다"고 지적했다.

김지현 기자 hyun1620@hankookilbo.com