교통사고 일으킨 AI가 '영업비밀'? AI법의 '맹점'

논의 중인 다수 법안, 인권·안전에 영향 미치는 AI 규제 '미비'
EU만 규제? 미국선 AI 인명피해시 업체에 책임 묻는 법안 통과
AI특위 제안에 갑론을박... '범사회적 논의기구' 주장도

[미디어오늘 금준경 기자]

▲ 자율주행차. 사진=gettyimagesbank

만일 자율주행 대중교통의 결함으로 인명사고가 발생했다면 어디까지 책임을 물을 수 있을까. 2026년부터 유럽에선 관련 업체에 과징금 등 제재를 가할 수 있지만 한국에서 논의 중인 다수 법안이 통과될 경우엔 책임을 묻기 어려울 수 있다.

국회 과학기술정보방송통신위원회는 3일 법안소위를 열고 인공지능(AI) 제정법 논의를 시작했다. 이들 법안을 유럽연합(EU) 법과 비교하면 규제 강도에 차이가 큰 것으로 나타났다.

위험한 AI 의무 위반시 처벌 법안 1건 뿐

3일 과방위 법안소위에는 AI기본법 7건(안철수·정점식·조인철·김성원·민형배·권칠승·한민수 의원안)이 심사 대상에 올랐다. 이들 법안은 공통적으로 △인공지능에 관한 기본적인 규정 △고위험 영역 인공지능 등 정의와 의무 규정 △인공지능과 관련한 위원회 설치 △기술 활용 등 산업 지원 등을 하는 내용을 담고 있다.

22대 국회에서 발의된 법안 다수는 처벌 규정을 찾아보기 힘들고 '금지 인공지능'과 관련한 별도 규정이 없었다.

특히 7개 법안 모두 큰 위험이 될 수 있는 고위험 인공지능을 규정하고 다양한 의무를 명시했으나 정작 고위험 인공지능 의무 위반시 처벌을 규정한 법안은 1건(권칠승 의원안)뿐이다.

고위험 인공지능은 사람들의 삶에 직접적 피해를 줄 수 있는 인공지능이다. 다수 법안은 에너지 및 수도 공급, 생체정보 활용, 교통수단 및 교통시설 등 작동 운영 등을 고위험 인공지능으로 규정한다. 처벌을 규정하지 않은 경우 대중교통의 자율주행 기술이나 인공지능을 통한 수도 공급 등에 결함으로 인명 피해가 발생해도 업체에 책임을 묻기 모호하다.

▲ ChatGPT, AI. 사진=gettyimagesbank

국내 7개 법안 중 '고위험'을 넘어선 '금지 인공지능'을 규정한 법안도 1건(권칠승 의원안)뿐이다. 다만 권칠승 의원 법안은 “누구든지 금지된 인공지능을 개발하거나 이용하여서는 안 된다”고 규정하고 있지만 구체적으로 '금지 인공지능'의 기준을 명시하지 않았다.

'독소조항' 우려도 있다. 안철수 의원 법안은 고위험 인공지능 관련 정보가 '영업비밀'에 해당할 경우 자료 제출을 하지 않을 수 있도록 했다. 인공지능 감독시 정보 제공 과정에서 영업비밀이 드러나는 걸 막기 위한 조치지만 사업자 입장에선 악용할 수 있다. 예컨대 자율주행차 업체에서 교통사고가 날 경우 자율주행차가 어떤 원리로 작동됐는지 알아야 조사가 가능하지만 관련 자료를 '영업비밀'이라며 제출하지 않는다면 조사가 무력화된다.

EU는 강력 규제, 미국도 규제 도입 추세

반면 EU의 AI법은 '고위험 인공지능'에 다양한 의무를 부과하고 '금지 인공지능'을 구체적으로 규정하고 있다는 점에서 차이가 있다.

우선 사람의 잠재의식을 조작하거나, 노인과 장애인 등의 취약성을 악용하거나, 정치적 의견 등 민감정보를 유추하는 생체인식 분류, 공공장소의 실시간 원격 생체인식 감시, 예측 치안 등을 금지한다. 교통, 이민관리, 수도, 가스 등 인프라 등에 관한 인공지능을 고위험으로 규정하고 위험관리, 데이터 관리, 문서화 의무, 인권영향 평가 등을 부과하고 위반시 제재를 가한다.

EU가 이례적으로 규제가 강하다는 주장도 있으나 최근엔 미국에서도 규제 논의가 이어지고 있다. 지난 8월 작성된 국회 과방위 수석전문위원 보고서 역시 “(미국은) 2023년 10월에는 '안정적이고 안전하며 신뢰할 수 있는 인공지능의 개발 및 사용에 관한 행정명령'을 시행하는 등 인공지능 규제를 도입하는 추세”라고 밝혔다. 인공지능이사람에게 해를 입힐 경우 개발업체에 책임을 묻는 등의 규제를 담안 AI 규제법안이 지난달 미국 캘리포니아주에서 통과되기도 했다.

장여경 정보인권연구소 상임이사는 “국회에 발의된 법안은 인권과 안전에 영향을 미치는 고위험 인공지능에 관해 체계성이 부족하다”며 “고위험 인공지능이 사고를 일으켰을 때 원인을 판단하고 책임을 부과할 수 있어야 되는데 그런 점도 미흡하다”고 했다. 장여경 상임이사는 “대부분 법안이 금지 인공지능에 대한 언급이 없는데 아동, 노인 등 취약층의 무의식을 조종하는 등 악영향을 주는 인공지능을 규정할 수 있어야 한다”고 했다.

논의 주체는? 과방위 vs 특위 vs 범사회적 기구

AI 관련 법안 논의를 과방위가 전담하는 것이 적절한지도 쟁점이다. 우원식 국회의장이 국회 내에 AI 특별위원회를 구성할 필요가 있다고 밝히자 이해민 조국혁신당 의원은 범사회적 논의기구인 '민관정 협의체'를 구성해야 한다고 했다. 반면 최민희 과방위원장은 과방위에서 전담해야 한다는 입장이다.

▲ 지난 6월8일 국회 과학기술정보방송통신위원회 회의 모습. 사진=미디어오늘.

이해민 의원은 “(AI 논의는) 완전히 새로운 포괄적 정의에 가깝다”며 “다양한 분야 전문가가 필요하고 실제 제도가 적용되는 산업계가 함께 목소리를 내줘야 하며, 행정부 역시 논의에 참여해야 엇박자 없는 제도 논의가 가능할 것”이라고 했다. 이해민 의원은 기술·윤리·인류학·헌법 등 다양한 분야의 전문가가 필요하다고 했다.

지난 7월 진보네트워크센터, 언론개혁시민연대, 민주사회를위한변호사모임 디지털정보위원회 등 단체들은 입장을 내고 '사회적 합의 도출'이 중요하다고 밝혔다. 이들 단체는 “17대 국회 당시 방송통신융합 특별위원회를 만들어 범상임위적으로 이 문제를 논의하고 신규 규제기관인 방송통신위원회 설립 및 운용에 관한 법안을 공동으로 심의하고 합의에 도달하였던 사례를 참고해볼 수 있을 것”이라고 했다.

반면 최민희 과방위원장은 입장을 내고 “우려한다”고 밝혔다. 최민희 위원장은 “과방위가 더 잘 논의할 수 있도록 도와주시기 바란다”며 “과방위에서 AI를 떼내겠다는 건 과방위를 방송영역에 한정시켜 힘을 빼려는 국민의힘과 보수언론의 정치적 프레임에 발맞춰주는 것”이라고 했다. 앞서 산업계와 보수언론을 중심으로 AI법안 우선 처리를 위해 과방위에서 과학기술을 분리해야 한다는 요구가 잇따랐다.