"위험한 AI 규제해야" vs "일어나지도 않은 일, 상상으로 규제하나"

AI기본법, 진흥 강조하는 산업계와 AI 위험성 우려하는 시민사회
AI 처벌조항 반대하는 산업계… 정통부는 "우선 제정하고 보완입법"
"벌칙조항 없으면 실효성 없다"는 시민사회, AI 감독기구 신설 제안도

[미디어오늘 윤수현 기자]

▲사진=Pixabay.

규제를 할 것인가, 산업 진흥을 할 것인가. AI기본법 논의를 둘러싸고 산업계와 시민단체가 격돌했다. 산업계는 AI기본법의 조속한 통과와 함께 진흥 중심의 법안 제정을 요구하고 있다. 하지만 AI가 가져올 위험성에 대한 대비책이 법안에 담겨야 한다는 시민사회의 비판도 이어지고 있다.

AI가 사회적 화두로 떠올랐지만 현재 AI에 대한 기본법조차 마련되지 않은 상황이다. 이에 정부와 일부 언론은 AI기본법 제정을 요구하고 나섰다. 현재 국회에 계류 중인 AI 관련 법안은 총 10건에 달한다. 이와 관련 최민희 국회 과학기술정보방송통신위원회 위원장(더불어민주당)과 시민기술네트워크는 지난 12일 서울 영등포구 국회 의원회관에서 <시민참여 AI기본법 추진을 위한 쟁점 토론회>를 개최했다.

AI 처벌조항 반대하는 산업계… 과기정통부 AI기본법 속도전 요구

하정우 네이버 클라우드AI랩 연구소장은 “생성형 AI가 생산성 향상에 가져올 효과는 적어도 2조6000억 달러(한화 3458조5200억 원)에 달할 것으로 예상된다. 이를 활용할 수 있는 국가와 그렇지 않은 국가의 산업경쟁력 차이는 말하지 않아도 알 수 있을 것”이라며 “대부분 국가가 AI 경쟁력 강화를 위해 노력 중이다. 단순히 자국 AI 강화뿐 아니라 글로벌 영향력을 확대하기 위해 '신제국주의' 수준으로 경쟁이 이어지고 있다”고 했다.

하정우 소장은 “이런 상황에선 AI 종속국이 될지, 패권국이 될지 나뉠 것”이라며 AI 샌드박스(일정 기간 규제를 면제·유예하는 제도)를 제안했다. 하 소장은 “EU AI Act(유럽연합의 AI법)가 벌금 조항까지 넣은 강력한 법이지만, 샌드박스를 적극적으로 활용할 수 있도록 하고 있다”며 “AI기본법은 AI를 통한 성장과 혁신의 기회가 누구도 소외되지 않도록 해야 하며, 시민사회와 함께 샌드박스를 적극 활용해야 한다. 시민사회와 함께 AI를 활용하며 문제를 즉각 대응할 수 있는 형태가 되어야 한다. 일어나지 않을 일을 상상으로 규제하는 것은 바람직하지 않다”고 밝혔다.

하정우 소장은 AI기본법에서 AI에 관한 처벌조항은 담겨선 안 된다고 했다. 하 소장은 “AI를 악용하는 사례에 대해선 강력한 처벌이 필요하지만, AI는 도구이므로 이미 있는 규제를 활용하면 된다. 가이드라인·지침 등 연성 규제가 필요하다”고 했다.

과학기술정보통신부는 산업통상자원부, 문화체육관광부 등이 AI 법제화에 나선 상황에서 빠르게 AI기본법을 제정해야 한다고 강조했다. 남철기 과기정통부 인공지능기반정책과장은 “언론이 속도를 강조하는 측면이 있지만, 기본법적 성격이기에 방향(검토)도 필요하다”면서 “여러 부처에서 경쟁적으로 AI 관련 입법을 제정하려 한다. 과기정통부와 상임위 입장에서 빨리 법이 제정됐으면 한다”며 “기본법적 성격이다 보니 완벽한 법안을 만드는 게 어려울 것 같다. 최소한의 기본골격을 갖춰 제정하고 필요한 내용은 보완 입법을 통해 완결성을 가져가는 게 좋을 것”이라고 밝혔다.

▲9월12일 '시민참여 AI기본법 추진을 위한 쟁점 토론회'에 참석한 오병일 진보네트워크센터 대표와 홍윤희 사단법인 무의 이사장. 사진=유튜브 채널 최민희TV 방송화면 갈무리

시민사회 “AI 위험성·대응 로드맵 법안에 담겨야”… “벌칙조항 필수”

하지만 오병일 진보네트워크센터 대표는 AI 위험성에 대한 대비가 없는 상황에서 진흥 중심의 AI기본법이 나오는 것은 위험하다고 지적했다. UN은 올해 5월 'AI안전 정상회의'를 개최해 AI와 관련된 규범 정립을 논의했으며, 요슈아 벤지오 서울AI정상회의 의장은 AI 전문가 75명과 함께 중간보고서를 냈다. 오 대표는 “이 보고서에서 각 국가가 AI 경쟁에 치중하다 보니 규제 최소화 움직임이 있는데, 위험이 크다는 내용이 있다”며 “현재 한국의 상황을 대변해주는 내용이다. 많은 공공기관에서 AI 채용 시스템을 도입했는데 편향성 우려에 대한 점검 시스템은 없다”고 지적했다.

오병일 대표는 “지금 정부가 답해야 할 것은 AI에 대한 위험성이 어느 정도인지, 어떻게 대응할 것인지 로드맵을 내놔야 한다. AI기본법에도 이런 내용이 담겨야 한다”며 “21대 국회에서도 AI기본법에 대한 논의가 있었지만 회의록을 살펴보면 논의된 게 거의 없다. 법이 빨리 통과돼야 한다고 이야기하는데, 심각한 사안에 대해 사회적인 토론이 열렸는가”라고 했다. 오 대표는 AI와 관련된 별도 감독기구 설치를 제안했다. 오 대표는 “지금까지는 과기정통부가 역할을 했지만, 산업육성에 방점을 찍고 있다”며 “AI 감독에 초점을 맞춘 별도 기구가 필요하다”고 했다.

이용자 안전·인권 등에 영향을 미칠 수 있는 고위험 AI를 분류해야 한다는 지적도 나온다. 오병일 대표는 “유럽의 경우 안전에 영향을 미치는 AI는 고위험으로 규정하고 있다. 미국도 안전과 인권에 영향을 미치는 AI를 규정하고 있다”며 “고위험 AI은 시행령이 아닌 법안에 반영되야 한다. 한국 상황에 맞는 고위험 AI가 뭔지 규정해야 한다”고 했다. 또 오 대표는 고위험 AI를 제공하는 사업자에 대한 의무 규정을 강화해야 하고, 처벌조항도 필요하다고 했다. 오 대표는 “실효성을 위해선 벌칙조항도 필요하다. 자율규제로 충분하지 않다”고 했다.

홍윤희 사단법인 무의 이사장은 미국에서 AI 규제와 관련된 조항이 나오고 있다면서 “미국은 AI 선도국가이지만 현실적인 문제 때문에 일부 지역은 규제 방향으로 가고 있다. 바이든 정부의 인공지능 행정명령은 AI 규제에 대한 내용을 담고 있다”고 했다. 실제 실리콘밸리가 있는 미국 캘리포니아주 의회는 지난달 AI 규제 법안을 통과시켰다. AI개발사가 자사 기술이 심각한 피해를 일으키지 않도록 확인하는 의무를 부여하고, AI 시스템이 사고나 경제적 피해를 일으키지 않도록 주의를 기울여야 한다는 내용을 담고 있다.

▲9월12일 개최된 '시민참여 AI기본법 추진을 위한 쟁점 토론회'. 사진=최민희 의원실

김현 “급하고 늦지 않게 기본법 제정 노력”… 최형두 “기본법 만들고 보완해 나가야”

토론회에 참여한 과방위 소속 여야 의원들은 AI기본법이 필요하다고 목소리를 높였다. 김현 민주당 의원은 “지난 국회에서 AI기본법이 왜 제정되지 않았는지 국정감사에서 확인해야 한다”며 “시민과 정부, 정치권이 머리를 맞대고 급하진 않게, 늦지 않게 한국형 AI기본법을 만들기 위해 노력할 것”이라고 했다. 이해민 조국혁신당 의원은 “자동차 산업이 발전할 수 있었던 이유는 교통법규가 있었기 때문이다. 세계적으로 통용되는 법규가 있어야 AI 산업도 발전할 수 있다”며 “유럽에서도 시민사회 의견을 듣고 법안을 만들었다. 이번 토론회를 시작으로 시민이 참여하는 AI기본법이 가속화될 수 있을 것”이라고 밝혔다.

최형두 국민의힘 의원은 “AI기본법이 있어야 AI 분야 지원과 규제를 할 수 있다”며 “기본법에서 큰 틀을 만들어 놓고 나머지 부분을 계속 보완해 나가는 방식으로 신속하게 진행돼야 한다”고 밝혔다. 이준석 개혁신당 의원은 “산업이 갈피를 잡지 못하기에 이정표를 잡아줘야 한다. AI 관심이 높아지는데, 규정이나 가이드라인이 없으면 위험한 일이 발생할 수 있다”고 밝혔다.