시민 안전과 인권을 지키는 견고한 'AI 기본법' 마련해야

[기고]

[미디어오늘 이광석 서울과학기술대 교수]

▲ ChatGPT, AI. 사진=gettyimagesbank

오늘날 인공지능 등 첨단 기술은 시장을 넘어 현대인의 일상과 관계를 유지하는 일종의 사회 인프라가 됐다. 그만큼 신기술이 선사하는 변화와 효율의 매력에도 불구하고 여러 사회 문제 또한 끊이질 않고 있다. 가령, 스마트폰을 쥔 현대인은 플랫폼 공장에 자신의 생체·행위 데이터가 끊임없이 땔감으로 쓰이면서 인권을 위협받고 있다. 어느덧 우리는 알고리즘의 필터 거품과 도파민 중독에서 쉽게 헤어나오기 어려운 일상을 살아간다. 타인과 맺는 관계 감각조차 대부분 '소셜미디어'적 관계로 대체되면서 민주적인 소통이 크게 훼손된 상태다.

챗지피티(ChatGPT) 등 '생성형 인공지능'의 등장으로 우리 사회는 또 격변 속에 있다. 새로운 기술의 달콤한 효능감 때문인지, 우려와 비판은 열광과 과열 증세에 압도됐다. 무차별적인 민감정보 수집, 데이터 편향과 차별, 거짓 오정보 양산, 개인정보 유출, 잠재의식 조작 등 위험 징후가 속속 드러나는 데도 말이다.

최근에 갑자기 정부가 21대 국회에 계류 상태인 'AI 법안'의 신속 입법 처리를 보채고 있다. 기술의 사회 문제나 시민 안전에 대해 뭔가 깨친 것일까? 실제 정황은 이와 무관하다. 사실 이 'AI 법안'은 “우선 허용, 사후 규제” 조항으로 산업 진흥 논리만 앞세워 국가인권위원회의 개선 권고까지 받았던 함량 미달의 것이다. 정부도 이를 의식해서인지 관련 조항이 수정안에서 사라졌고, “AI 범죄 처벌”의 길 또한 마련했다고 입을 모았다. 이제 법안의 신속 통과에 아무 이상이 없다는 주장이다. 하지만, 시민사회 의견은 다르다. 여전히 법안 기조에 시민 인권 보호책이 부실하고, 고위험 인공지능에 대한 엄격한 금지나 처벌 조항이 없다는 비판적 평가다.

▲ 이종호 과학기술정보통신부 장관(왼쪽)과 조태열 외교부 장관이 5월10일 오전 서울 종로구 정부서울청사 별관 회의실에서 열린 'AI 디지털 외교 정책협의회 착수식'에서 기념 촬영하고 있다. 사진=외교부 제공

이달 곧 개최될 'AI 서울 정상회의'를 위해 'AI 법안'을 졸속 처리하려 한다는 의혹도 일고 있다. 대외적으로 인공지능 법안조차 없는 국가의 오명을 면피하기 위해 'AI 법안'을 급행 처리하려 한다는 것이다. 애초 국제 AI 정상회의 결성 취지이기도 했던, '안전' 개념이 이 행사 제목에서 빠진 점 또한 꽤 흥미롭다.

이미 유럽연합은 인공지능의 잠재적 위험을 단계별로 나눠 시민을 보호 및 구제하기 위한 AI 법안을 오랜 숙의 과정을 걸쳐 마련했다. 미국 또한 연방 차원의 강력한 인공지능 행정명령을 통해 자국민에 대한 인공지능 보호 대책을 갖춘 상태다. 이에 비해 우리는 인공지능 산업 진흥책만 내세울 뿐 기술 위험을 대비할 제대로 된 법률안이 미비하다.

사회적으로 민감하고 파급력이 큰 기술일수록 관련 행위 주체에게 높은 책임과 의무를 부과하는 제대로 된 인공지능 법안 구상이 필요하다. 그래서, 조금 더디 가더라도 현재 국회 계류 중인 부실 AI 법안을 폐기하는 대신, 곧 구성될 22대 국회에서 각계 의견을 청취해 시민의 안전과 인권을 실질적으로 보호할 수 있는 인공지능 입법안을 마련할 필요가 있다.

산업 기계에 혹사당하는 아동과 여성 등 약자 노동 환경을 보호하기 위해 최초로 입안됐던 영국의 공장법처럼, 새로운 AI 기본법은 21세기 인공지능에 취약한 시민 모두를 굳건히 지킬 디지털 공장법이 되어야 할 것이다.

▲ 이광석 서울과학기술대 교수