민감정보 유출에… AI법 제정 속도내는 한·미·유럽

과방위 통과… 본회의 상정예정

황종성 NIA 원장이 AI법제도를 주제로 10일 개최한 간담회에서 인사말하고 있다. NIA 제공

챗GPT를 비롯한 생성형AI(인공지능)의 할루시네이션(환각)부터 사용자가 입력한 민감·기밀정보 유출 등 부작용 우려가 커지면서 국내외에서 관련 규제와 법제화 논의가 빨라지고 있다.

황종성 NIA(한국지능정보사회진흥원) 원장은 10일 기자들과 만나 "AI를 제대로 쓰려면 기술발전뿐 아니라 제도발전이 병행돼야 한다"면서 "한국은 AI 관련 제도 발전을 가장 적극적이고 체계적이며 균형 있게 준비하고 있다"고 강조했다. AI분야 '싱크탱크' 역할을 강화하겠다는 계획이다.

챗GPT 개발사인 오픈AI의 샘 알트만 CEO(최고경영자)와 브래드 스미스 MS(마이크로소프트) 부회장 등 적정 규제의 필요성을 제기하는 목소리도 커지고 있다. 지난달 구글을 퇴사한 '딥러닝 대부' 제프리 힌튼 교수나 스티브 워즈니악 애플 공동창업자 등은 AI의 위험성에 대해 강도 높게 경고한 바 있다.

이에 지난 4일(현지시간) 미국 바이든 행정부도 '미국인의 권리와 안전을 보호하는 책임 있는 AI 혁신을 촉진하기 위한 새로운 조치'라는 성명을 발표했다. 카멀라 해리스 미국 부통령이 백악관에서 알파벳(구글), MS, 오픈AI, 앤쓰로픽 등 AI 대표 기업 4개사 CEO와 만나 책임 있는 AI를 위한 노력을 촉구했다. 이에 따라 이들을 포함해 엔비디아, 스태빌리티AI, 허깅페이스 등 7개사가 올 여름 국제해킹방어대회(DEFCON31)에서 스케일AI사의 평가 플랫폼을 통한 AI시스템 공개 평가에 참여할 예정이다.

미국은 '알고리즘책임법안' 입법도 추진 중이다. 자동화된 의사결정 시스템에 대한 책임성 확보를 위해 알고리즘 영향평가를 실시·제출하도록 하는 내용이다. 또한 통신정보청(NTIA)에서 AI 책임성에 대한 공개 여론을 내달까지 수렴하며, 관리예산처(OMB)에선 AI시스템 사용 관련 정책지침 초안을 올 여름 공개하고 대중 의견을 수렴할 예정이다.

GDPR(일반개인정보보호법) 등으로 사이버규제 분야를 주도해온 EU(유럽연합)는 일찍이 AI법을 추진해왔다. 2021년 EC(EU집행위원회)가 제안한 이 법안은 AI 위험수준을 4단계로 분류하고 그에 따른 의무를 부과하는 내용이다. 지난달 초안이 제출돼 입법을 추진 중이다. 챗GPT 등장에 따라 신중한 고위험AI 판단과 이해관계자 책임분배 등 기업 부담 완화 필요성도 제시됐다. 생성형AI모델 개념 반영과 학습용 데이터에 대한 투명한 공개 등에 대한 추가 논의를 거쳐 올 다음달중 의결 예정이다.

국내에선 2019년 말 'AI 국가전략' 발표에 이어 올초 'AI 일상화·산업기술 초격차 달성 계획'을 수립했다. AI시대 부작용 최소화, 활용 최대화를 위한 'AI법·규제·제도 정비 로드맵(1.0)'이 2020년 말 마련됐고, 이듬해부터 'AI법제정비단'이 운영되고 있다.

국내 AI법은 지난 2월 국회 과학기술정보방송통신위원회 법안심사소위에서 복수의 관련 법안을 병합 심의해 통과시켰다. 과방위 전체회의와 법제사법위원회 심사·의결을 거쳐 국회 본회의에 상정될 예정이다. 신뢰 가능 AI, AI윤리 원칙 확산을 위한 추진체계 등 거버넌스 정립을 주요 내용으로 한다. AI산업 진흥에 초점을 맞추지만, 국민 생명·신체와 기본권 보호를 위해 사회 인프라 및 면접·대출·평가 등 고위험영역에 대한 AI 규제도 담겼다.

김형준 NIA 지능화법제도센터장은 "AI산업 육성과 신뢰 확보를 균형 있게 추진하고 AI 부작용 최소화 등 관련 정책의 추진동력을 확보하기 위해 제도적 기반이 필수"라며 "국회에서 논의되는 AI법안에는 자율주행 등에 대한 규제도 담겨있는 등 EU의 AI법안보다 실질적 위험성에 대한 규제가 부족하진 않은 것으로 판단된다"고 설명했다.

지난달 G7 디지털·기술 장관회의에서도 '책임 있는 AI 및 글로벌 거버넌스'에 대한 선언이 이뤄졌다. 다만 EU는 AI 관련 엄격한 규제를 제시한 반면, 미국·일본 등은 유연한 AI 활용 및 상호운용성을 중시하며 세부적인 측면에선 이견이 불거졌다.

황 원장은 "규제를 한 번에 강하게 하자는 측과 차근차근 문제를 확인하면서 하자는 측이 갈리는 것 같다. 한국의 접근은 그 중간 정도로 보인다. 산업 초기이므로 진흥을 중시하면서 영향평가와 모니터링 강화로 보완하는 방식이 주효할 것"이라며 "인터넷 시대에 접어들 때 적정 규제를 마련하지 못해 이후 계속 사회적 비용이 발생했다. AI시대를 맞아 이런 잘못을 되풀이하지 않도록 디지털 신질서 마련을 위한 '싱크탱크'로서 최선을 다하겠다"고 덧붙였다.팽동현기자 dhp@