"AI 부작용 우려" 美·中·EU 규제안 만든다

美의회 청문회 "규제기관 필요"
중국·유럽은 가이드라인 발표

[서울경제]

인공지능(AI) 기술이 악용될 경우 인간 사회에 심각한 위험을 초래할 것이라는 위기감이 고조되자 미국·중국을 비롯한 주요국들이 관련 기술을 통제하기 위한 규제 마련에 속도를 내고 있다.

17일(현지 시간) 게리 마커스 뉴욕대 교수는 블룸버그TV에 출연해 전날 열린 미국 의회의 첫 AI 청문회에서 “AI 기술의 위험에 맞서기 위해 보기 드문 초당적 합의가 형성됐다”고 평가했다. 샘 올트먼 오픈AI 최고경영자(CEO), 크리스티나 몽고메리 IBM 부사장 등이 참석한 이번 청문회에서는 AI 기술 통제를 위한 별도의 규제 기관 설립, 개발 라이선스 발급 등 다양한 규제 방안이 제시됐다. 외신들은 이번 청문회를 계기로 미 연방 차원의 규제 법안 마련이 본격화할 것으로 분석했다.

미국의 일부 주에서는 이미 AI 기술 관련 규제법을 마련했거나 논의하고 있다. 일리노이주는 기업이 영상 면접에 AI 기술을 활용할 경우 면접 참가자의 동의를 받게 하는 ‘AI영상면접법’을 통과시켰다. 워싱턴주는 공공기관 최고정보책임자(CIO)가 영향력이 있을 것으로 판단되는 AI 기술에 대한 규제 체계를 마련하도록 했다.

중국 역시 AI 기술 규제에 속도를 내고 있다. 중국 국가인터넷정보판공실(CAC)는 지난달 AI 기업들이 따라야 할 지침과 벌칙 규정을 담은 가이드라인 초안을 발표했다. 이에 따르면 기업들은 AI 서비스 출시 전 예외 없이 당국의 보안 평가를 받게 된다. 생성형AI에 대한 데이터 훈련 시 차별을 방지하고 허위 정보 생성을 막는 조치를 취해야 한다. 규정을 위반할 경우 서비스 정지는 물론 형사 조사까지 받을 수 있다.

유럽연합(EU)의 경우 이달 11일 AI 기술 관련 규제 방안을 담은 ‘인공지능법’ 초안이 유럽의회 상임위원회를 통과해 다음 달 본회의 표결을 앞두고 있다. 해당 법안은 AI 응용 프로그램의 위험도를 4단계로 분류한 뒤 이에 비례해 의무와 조치를 적용한다. 인간의 행동을 왜곡하기 위한 기만적 기술을 활용했거나 개인 또는 특정 집단의 취약점을 악용하는 시스템은 ‘용납 불가’ 등급으로 분류돼 배포 및 사용이 일절 금지된다.

정혜진 기자 sunset@sedaily.com