“AI로 만든 사진입니다” 표기 의무화 법안 발의

이상헌 민주당 의원, 관련 법안 발의
개정안 통과 시 진위여부 파악 도움 기대
美·EU 등도 유사한 내용의 법안 추진

프란치스코 교황이 흰색 롱패딩을 입고 산책하는 모습을 담은 이 사진은 이미지 생성 AI인 ‘미드저니’가 만든 가짜다. 미국 온라인 커뮤니티 레딧 캡처

생성형 인공지능(AI) 기술이 갈수록 정교해지면서 ‘메이드 바이 인공지능(Made by AI)’ 시대로 접어들고 있다. 이런 가운데 AI로 제작한 사진·글에 AI 사용 사실을 표기하도록 하는 내용의 법안이 국내에서 발의돼 관심을 모으고 있다.

22일 국회 문화체육관광위원회 소속 이상헌 더불어민주당 의원(울산 북구)은 생성형 AI를 이용해 제작된 콘텐츠에 해당 사실을 표시하도록 하는 내용의 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표 발의했다. 

생성형 AI는 텍스트·이미지·오디오 같은 새로운 콘텐츠를 생성하는 데 중점을 둔 모델이다. 오픈AI의 챗봇인 ‘챗GPT(ChatGPT)’, 이미지 생성기 ‘달리2(DALL·E2)’처럼 기존 데이터를 토대로 익힌 패턴을 바탕으로 원본과는 다른 결과물을 만들어낸다.

생성형 AI는 인간이 작업한 결과물과 구분이 안될 정도의 정교한 기술력을 자랑하는 한편,  ‘딥페이크(Deep Fake)’ 등 허위정보를 생성·유포하는 데 악용될 수 있다. 일례로 3월  흰색 롱패딩 차림의 프란치스코 교황 사진이 온라인에서 화제가 됐다. 많은 이들이 이를 진짜라고 믿었지만, 이미지 생성 AI ‘미드저니’가 만든 가짜였다.  

개정안이 통과되면 콘텐츠의 진위여부를 파악하는 데 도움을 줘 사회적 혼란을 방지할 수 있을 것이라는 기대가 나온다. 이 의원은 “AI기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다”며 "인공지능 시대의 규범적 틀을 확립해야 한다”고 입법 취지를 밝혔다. 

해외에서도 비슷한 내용의 법안을 준비하고 있다. 유럽연합(EU)은 생성형 AI로 작성한 글과 이미지에 ‘AI로 작성했다’는 표기 삽입을 의무화하는 내용의 EU 통합 법안을 연내 도입할 계획이다. 내년 대선을 앞둔 미국에서도 정치광고에 AI 사용여부를 표기하도록 하는 법안을 발의했다.