[이성엽의 IT프리즘]AI 규제 어디로 가야 하나

이성엽 고려대 기술경영전문대학원 교수/기술법정책센터장

(서울=뉴스1) 이성엽 고려대 기술경영전문대학원 교수/기술법정책센터장 = 대화형, 생성형 AI 모델인 챗GPT의 등장과 함께 인류는 그동안 영화에서나 보던 로봇, 인공지능의 위험성이 현실화될 것으로 보고 AI에 대한 규제 논의를 본격화하고 있다. 먼저 불을 지핀 것은 유럽(EU)이다. 2021년 4월 EU 집행위원회에서 AI 법안의 초안을 발표하였고, 2022년 12월에는 각료 이사회에서 수정안을 발표하였으며, 지난 5월에는 의회가 수정안을 발표하였다. 의회 수정안에는 GPT로 대표되는 파운데이션 모델에 대한 규제가 추가되었다.

이에 따르면 파운데이션 모델은 대규모 데이터에 의해 학습되고, 출력의 범용성을 고려하여 설계되었으며, 다양한 작업에 적용될 수 있는 AI 모델로 정의된다. 파운데이션 모델 공급자는 모델의 위험관리, 신뢰성 관리를 위한 검증, 자신의 모델을 공급받아 활용하는 하위 사업자의 서비스 내용까지 고려한 모델에 대한 기술문서와 지침의 작성, 제공 등의 의무가 부과된다. 특히, 생성형 AI 파운데이션 모델 공급자는 이용자에게 AI 시스템 활용 사실을 알려야 하고, 위법한 콘텐츠 생성을 방지할 수 있도록 모델을 설계·개발해야 하며, 또한 저작권에 의해 보호되는 학습데이터를 이용할 경우 이에 대한 정보를 문서화하여 공개하도록 하고 있다.

미국 의회는 2022년 2월 ‘알고리즘 책임법안(Algorithmic Accountability Act of 2022)’을 발의했다. 그 내용은 자동화된 의사결정 시스템에 대한 투명성과 책임성을 확보하기 위해 기업이 이용자와 규제기관에 ‘자동화된 의사결정 프로세스’가 어떻게 활용되는지를 인식할 수 있도록 관련 정보를 제공하도록 하고, 기업이 의사결정의 영향평가를 지속적으로 수행하도록 하는 것이다.

한국은 지난 2월 14일 국회 과학기술정보방송통신위원회의 법안소위에서 '인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안'을 통과시켰다. 법안은 인간의 생명과 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 부분을 ‘고위험 영역 인공지능’으로 정하고, 인공지능 사업자에게 이용자에 대한 고위험 영역 인공지능 사용 사실의 고지의무, 신뢰성 확보조치, 인공지능 도출 최종 결과 등에 대한 설명의무를 부여하고 있다. 다만, 법안은 누구든지 인공지능기술과 알고리즘의 연구·개발 및 인공지능제품 또는 인공지능서비스의 출시 등과 관련한 행위를 할 수 있도록 보장하는 것을 원칙으로 함으로써, 우선 허용, 사후 규제라는 네거티브 규제원칙을 선언하고 있다.

이와 함께 지난 6월 23일 개최된 「인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스」에서 한국의 개인정보보호위원장은 AI 서비스 제공자에 대한 안전장치 제공, 규정 중심(rule-based)에서 원칙 중심(principle-based)으로 규제 패러다임 전환, AI의 리스크 기준으로 차등적인 규제 도입을 담은 세 가지 주요 정책 방향을 제시하였다.

이처럼 AI 규제가 필요하고 정당하다면 그 방향은 어떻게 잡아야 할 것인가. 먼저 살펴볼 원칙은 원칙 중심 규제(principles-based regulation)이다. 이는 정책을 통해 달성하고자 하는 결과를 기본원칙(principles)으로 제시하고 그 결과를 달성하는 방법이나 프로세스를 수범자에게 위임하는 결과지향적인 규제방법이다. ‘규정 중심 규제(rule-based regulation)’는 규제의 내용을 구체적이고 상세하게 법령으로 정하는 것인데, 사업자의 예측가능성이나 책임소재를 높이는 장점이 있으나, 기술발전에 대응한 시의적절한 규제가 어려운 문제가 있다. 원칙 중심규제의 성공적 수행을 위해서는 수범자의 규제준수 의지가 매우 중요하므로 이를 지원하기 위한 인센티브도 필요하다. 이 점에서 원칙 중심 규제는 자율규제와도 일맥상통한다. AI 기술발전 속도를 법제가 시의에 맞게 대응하는 것은 어렵고 그렇다고 사전에 기술, 서비스 발전을 예측해서 규제를 설계하는 것도 어렵다는 점에서 AI 분야에서 원칙 중심 규제는 유효하다.

다음 사전규제와 사후규제이다. 사전규제는 불법 행위가 발생하기 전에 위험방지를 위한 적법 행위의 요건을 세밀하게 정해두는 것이고, 사후규제는 위험이 발생한 경우 이를 제거하기 위한 조치를 취하는 것이다. 한국의 인공지능법이 취하고 있는 네거티브 규제도 사후규제 원칙의 한 모습이다. 네거티브 규제는 명시적으로 금지되지 않는 한 모든 것이 허용된다고 보는 규제방식으로, 명시적으로 규정된 것에 한해서만 허용하는 포지티브 규제의 반대 개념이다. 급속하게 발전하는 AI 기술에 대한 과도한 사전규제는 AI 상품과 서비스의 시장 출시를 저해할 우려가 있다는 점에서 AI 분야에서 사후규제는 유용한 접근이다. 유발 하라리(Yuval Noah Harari) 교수는 의약품에 대해 사전 위험성을 평가 후 시장 출시를 하고 있는 것과 같이 AI 제품도 사전 적합성 평가를 할 필요가 있다고 주장하고 있으나, 이는 고위험성이 있는 AI에게만 적용되는 것이 타당하다. 이런 이유로 고위험의 범위를 합리적으로 정하는 것이 매우 중요한 작업이다.

다음 국내적 규제와 국제적 규제이다. 규제란 원칙적으로 주권국가가 독립적으로 제정, 집행하는 것이 원칙이지만, AI를 비롯한 디지털 분야는 초국경성을 특징으로 하기 때문에 국제적 규제가 중요하지 않을 수 없다. 윤 대통령은 지난 23일 파리에서 챗GPT 등 기술이 고도화하는 시대에 AI를 포함한 디지털 질서 규범 제정을 위한 국제기구 설치를 제안했다. 개리 마르쿠스(Gary Marcus) 뉴욕대 교수도 중립적인 비영리 국제기구로서 IAAI(International Agency for AI) 설치를 제안했다. 그는 유사 모델로서 81개 국가로 구성되어 검사권을 가진 국제원자력기구(International Atomic Energy Agency)와 각국이 독립적인 법을 집행하되 기구로부터 조언을 듣는 국제민간항공기구(International Civil Aviation Organization)를 제시했다. 다만, 국제기구의 필요성은 인정되지만, 각국의 AI 기술과 서비스의 발전 상황이 다르다는 점에서 국제적으로 동일한 규제를 강제하는 것은 오히려 역차별이 될 수 있다.

가장 앞서가는 생성형 AI 모델인 챗GPT 개발사인 오픈AI 샘 알트만 대표가 규제 필요성을 역설하는 것이 신규 진입자의 ’사다리 걷어차기‘라는 비판을 새겨들을 필요가 있다. 각국의 상황과 특성을 고려한 유연한 규제가 필요하다. 개인정보위원회 주최 국제컨퍼런스에서 아누팜 챈더(Anupam Chander) 미국 조지타운법대 교수는 국가별로 AI 규제 파편화가 불가피하다면서, 이에 대한 해결책으로 개인정보 국외 이전에 대한 국가 간 적정성 결정과 같이 핵심원칙에 대한 합의를 기반으로 상호호환성을 갖도록 제안했다.

끝으로 위 규제원칙들을 포괄하는 가장 중심적인 규제원칙은 “비례적 규제”이다. 이는 AI 기술, 서비스로 인한 편익을 훼손하지 않는 한도 내에서 적절한 위험관리가 이루어져야 한다는 것이다. 위험기반 접근(risk-based approach)도 이런 비례적 규제의 한 형태라고 할 수 있다. 결론적으로 AI에 대해서는 원칙 중심 규제, 네거티브 규제, 국내규제와 국제규제의 조화, 위험기반 규제 등을 고려한 비례적 규제 원칙을 채택하는 것이 타당하다고 할 것이다.

haezung2212@news1.kr