[데스크의 눈]AI 규제법 서둘러야 하는 진짜 이유

[이데일리 김보경 기자] 지난 8일(현지시간) 유럽연합(EU)은 인공지능(AI) 기술 이용을 규제하고, 위반하는 기업에 거액의 벌금을 부과하는 AI 규제법안에 최종 합의했다. 세계 첫 AI 규제안이다. AI 기술이 빠르게 고도화하고 있으므로 앞으로 다른 국가들도 관련 법을 내놓을 수 있다. 우리나라의 AI 규제 관련 법안은 1년째 국회에 발목이 잡혀 있다.

EU의 AI 규제 합의안은 AI 기술 위험에 따라 4등급으로 분류해 안면인식 기술 등 생체 정보를 AI로 실시간 수집하는 최고위험 등급은 전면 금지했다. 규정을 어긴 기업엔 최대 3500만유로(약500억원) 또는 세계 매출 7%에 해당하는 거액의 과징금을 부과키로 했다. 또 개인이나 기업의 특성과 행동에 수치 평가를 하는 사회적 점수 매기기(social scoring)도 허용하지 않는다.

지난해 11월 오픈AI의 생성형AI ‘챗GPT’의 등장 이후 1년여의 기간 동안 전 세계적으로 생성형AI의 열풍은 대단했다. 구글, MS, 메타 등도 앞다퉈 AI 기술을 적용한 결과물을 내놨다. AI 기술이 일상에 적용되면서 딥페이크, 가짜뉴스 등으로 AI 위험성이 제기되기도 했다.

AI 규제안은 이런 AI 기술을 통제하기 위한 것이기도 하지만 자국의 AI 기술 개발을 촉진하고 다른 나라의 기술개발을 견제하기 위한 의도도 있다. EU의 규제안이 미국보다 강도가 높은 것도 이 때문이다.

미국 바이든 행정부는 지난 10월 △AI 학습 전 연방정부에 사전 보고 △클라우드 업체의 AI 고객사 연락처 등 정보 보고 △AI 콘텐츠에 대한 워터마크 지침 마련을 골자로 한 행정명령에 서명했다. 하지만 규제 방법이나 기준은 애매하다. 미국 빅테크 중심으로 현재 한창 개발 단계에 있는 AI에 규제를 만드는 것 자체에 부담이기 때문이다. 도널드 트럼프 전 미국 대통령은 이마저도 본인이 내년 대선에서 승리하면 취임 첫날 폐지하겠다고 했다.

하지만 기술면에서 미국보다 뒤처진 EU는 다르다. 미국보다 강력한 규제안으로 미국 빅테크 기업 주도로 가고 있는 AI 생태계에 제동을 걸고, 유럽 산업을 보호하면서 새로운 질서를 주도하겠다는 의도가 AI 규제안에 담겼다.

EU의 AI 규제 초안은 유럽 의회와 회원국들의 공식 승인을 거치면 2026년 초 시행될 전망이다. 아직 2년여의 시간이 남았다고 해서 우리나라가 관련 규정을 준비할 시간이 여유로운 것은 아니다. AI 같은 첨단 분야는 승자 독식의 특성이 강해 빅테크 기업이 국내 AI 시장을 선점하면 이를 다시 가져오기도 어렵고, 규제하기도 만만치 않다.

우리나라는 2021년부터 ‘AI산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만 지난 2월 과학기술정보방송통신위원회 법안소위를 통과한 이후 지지부진한 상황이다.

지난 1일 영국에서 열린 AI 안전성 정상회의 후속으로 내년 5월 우리나라에서 미니 정상회의가 열리는 만큼 AI 규제 구축에 한국이 주도적으로 참여할 수 있도록 속도감 있는 대책 마련이 필요한 시점이다.

김보경 (bkkim@edaily.co.kr)