EU, ‘AI로 작성’ 의무 표기 등 생성형 AI 규제안 연내 도입 검토

마르그레테 베스타게르 EU 집행위원회 부위원장. 위키피디아

“생성형 인공지능(AI)으로 작성한 글과 이미지에 ‘AI로 작성했다’는 표기가 자동삽입되고, AI를 만든 기업이 어떤 윤리적 지침을 따랐는지를 설명하는 의무사항을 연내 유럽연합(EU)에 도입하는 방안을 검토 중이다.”

마르그레테 베스타게르 EU 집행위원회 부위원장이 25일 니혼게이자이(닛케이)신문과의 인터뷰에서 생성형 AI에 대한 EU 통합 규제안을 올해 안에 마련할 계획이라며 구체적인 내용을 언급했다.

EU 집행위는 2021년 AI의 위험도를 4단계로 나눠 차등적으로 의무를 부여하는 AI 규제법안을 제안했지만, 챗GPT와 같은 생성형 AI를 규제하는데 한계가 드러나자 초안을 다시 마련하고 있다. 닛케이는 EU 집행위 내에서 생성형 AI 규제와 관련해 시행 시기나 내용 등을 구체적으로 밝힌 것은 이번이 처음이라고 설명했다.

EU 디지털 정책을 총괄하는 베르타게르 부위원장은 미국 정보기술(IT) 기업에 거액의 과징금을 부과한 것으로 유명해 ‘실리콘밸리의 저승사자’로도 불린다. 베르타게르 부위원장은 챗GPT와 같은 AI 프로그램으로 만든 창작물에 라벨을 붙여 진위를 알 수 있도록 하는 방안을 제시했다. 예를 들어, AI로 작성한 문서에는 ‘AI로 작성(made with AI)’ 문구가 자동으로 삽입되고, AI가 만든 이미지에는 ‘이것은 진짜 사진(그림)이 아니다’라는 라벨이 의무적으로 붙는 형식이다.

베르타게르 부위원장은 “생성형 AI에 과도하게 의존하게 되면 어린 아이들이 스스로 사고하는 힘을 기르지 않게 되는 등 ‘리스크’가 생긴다”며 “생성형 AI를 적절하게 이용하기 위한 ‘안전장치’가 필요하다”고 밝혔다.

또 AI를 만든 기업에도 일정한 설명 의무를 부과할 계획이라고 말했다. “왜 AI가 그러한 판단을 했는가. 어떤 윤리적인 가드레일을 마련하고 있는가” 등에 대해 기업이 설명해야 하는 의무를 만들겠다는 것이다. 시행시기와 관련해서는 “올해 후반쯤 (유럽이사회 및 유럽의회에서) 정치적 합의를 이끌어낸 이후 (규제를) 시행하고 싶다”고 말했다.

베르타게르 부위원장은 생성형 AI가 EU 경쟁법의 규제 대상이 될 수도 있다고 내다봤다. 그는 “아직 조사 단계이지만 생성형 AI가 EU에서 경쟁을 저해하는 사례가 발생할 경우 EU 디지털시장법을 적용할 수 있다”고 설명했다. 또 유해정보 유포를 막는 것을 기업들에 의무화한 디지털서비스법도 생성형 AI 기업을 규제하는 데 활용될 수 있다고 덧붙였다.

닛케이는 EU가 규제를 추진중인 생성형 AI를 만드는 기업들이 챗GPT의 오픈AI에 투자한 마이크로소프트(MS), 챗봇 ‘바드’를 내놓은 구글 등 미국 빅테크 기업이라면서 이번 규제가 미국 기업들을 겨냥하고 있다고 설명했다. EU는 이들 기업에 대한 규제 마련에 속도를 내는 한편, AI 관련 조사를 전문적으로 할 수 있는 EU 집행위 내 별도 조직도 구성 중인 것으로 전해졌다.

다음달 히로시마에서 열리는 주요 7개국(G7) 정상회의에서 AI와 관련한 국제 규정을 논의하는 것에 대해 베르타게르 부위원장은 기대감을 표명하며 “EU는 독자 규제를 마련하는 동시에 다른 국가·지역과도 협조해나갈 것”이라고 밝혔다.

이윤정 기자 yyj@kyunghyang.com