[기획] `AI역풍 막아라` 전세계 규제 잰걸음

日 G7회의서 AI 의제로 다룰 예정
EU, 다음달 부작용 차단 법제화
美·中, AI 규제장치 본격화 나서
韓, 국회 소위 통과후 재논의 거듭

사진=연합뉴스

"전문가조차 인공지능(AI)의 파급력을 100% 예측하기 힘들다. AI는 핵보다도 훨씬 복잡하고 파급력이 크다. 위험성에 대비하려면 언제든지 필요할 때 AI를 중단시킬 수 있는 '멈춤버튼'이 있어야 한다."

국내 AI 전문가 중 한 사람인 김형철 소프트웨어정책연구소장의 주장이다. 전문가조차 AI의 파괴력은 가늠하기 힘든 만큼 핵이나 의약품 수준의 규제와 검증체계 도입을 서둘러야 한다는 지적이 나오고 있다. AI의 할루시네이션(환각) 문제뿐 아니라 선거에서 생성AI를 악용한 가짜뉴스가 범람할 것이란 우려도 크다.

'AI 역풍방지' 논의는 국가를 가리지 않고 확산되고 있다. 19∼21일 일본 히로시마에서 열리는 G7 회의에서도 AI를 주요 의제로 다룬다. 윤석열 대통령도 회의에 참석, 각국 정상들과 회담을 통해 이 문제를 논의할 것으로 보인다.

생성형AI 선두주자 챗GPT를 내놓은 챗GPT를 만든 오픈AI의 샘 올트먼 CEO(최고경영자)는 16일(현지시간) 미 의회 청문회에 증인으로 참석, AI의 잠재력을 설명하면서도 "점점 더 강력해지는 AI모델의 위험을 완화하기 위해선 정부 규제 개입이 중요할 것"이라고 밝혔다. 올트먼 CEO는 규제당국이 IT업계에 안전규칙을 제시할 필요성도 제기했다.

정부 차원에선 EU(유럽연합)가 가장 강도 높은 규제를 준비하고 있다. EU는 세계 최초로 다음달 'AI법(AI Act)'을 유럽의회 본회의 표결에 부친다. 중국 사이버 규제당국인 CAC(국가인터넷정보판공실)도 생성AI 제품과 그 개발 방법에 대한 규칙 초안을 최근 내놨다. 앞서 미국 바이든 행정부는 '미국인의 권리와 안전을 보호하는 책임 있는 AI 혁신을 촉진하기 위한 새로운 조치'를 내놓고, '알고리즘책임법안' 입법도 추진 중이다. 통신정보청(NTIA)은 AI 책임성에 대한 공개 여론을 내달까지 수렴한다.

그러나 국내에서는 AI의 기본 규율을 담은 AI기본법안이 국회 문턱을 넘지 못하고 있다. 1년 넘게 계류돼 있던 법안이 최근 국회 상임위 법안소위를 통과했지만 시민단체의 반대와 또다른 법 발의로 인해 논의가 원점으로 돌아갈 처지다. 국회 과기정통위는 관련 논의를 다시 해 법안소위를 또 다시 거칠 것으로 알려졌다.

전문가들은 AI가 기술 특성상 산업, 의료, 자율주행 등 모든 영역에서 쓰이는 만큼 AI기본법을 먼저 만들고 분야별 법제화를 서둘러야 한다고 지적한다. 또 혁신과 신뢰가 동반돼야 하는 만큼 선허용 후규제 접근이 바람직하다는 목소리가 많다.

이성엽 고려대 데이터·AI법연구센터장은 "AI 관련 '룰 세팅'을 서둘러서 예측 가능성을 높여야 한다"면서 "무분별한 규제 논의로 흐르는 것은 조심해야 한다"고 지적했다.

그러면서도 위험성이 높은 AI는 의약품 수준으로 강한 사전검증을 해야 한다고 주장했다. 사람의 건강에 영향을 주는 의약품은 상용화 이전에 몇 단계의 임상시험을 거치듯이 사회 전반에 영향을 미치는 AI, 그 중에서도 고위험 AI는 사전에 신뢰성과 성능검증을 해서 부작용을 막아야 한다는 것. 또 AI 법안에서 모든 것을 담든 것은 현실적으로 힘든 만큼 민주주의, 여론형성, 가짜뉴스 등의 이슈는 플랫폼의 책임을 강화하는 방식으로 풀 필요가 있다고 밝혔다.

하정우 네이버클라우드 AI이노베이션센터장은 "초거대AI 기술이 아직은 설익은 부분이 있으므로 AI윤리 등에 대한 평가가 필요하다는 데 동의한다. 그러나 한번 정해지면 바꾸기 힘든 법적 규제는 다른 문제"라며 "기술의 발전 속도가 빠르고 경쟁도 격화되고 있는 만큼 현 시점에서 규제는 신중히 해야 한다. 글로벌 동향을 지켜보면서 우리 실정에 맞게 점진적으로 보완하며 접근할 필요가 있다"고 했다.

최경진 한국인공지능법학회장(가천대 법학 교수)은 "최근 오픈AI가 컴플라이언스 이슈에 적극적인 이유는 이들이 기술적으로 선두주자이기 때문으로 보인다. 샘 올트먼 CEO의 의회 증언에는 '사다리 걷어차기' 의도가 내포됐을 수 있으므로 가려들을 필요도 있다"면서도 "그렇다고 규제가 전혀 없으면 기술 발전에 따라 호미로 막을 걸 가래로 막게 될 수도 있다. 미래 성장동력을 저해하지 않는 선에서 점진적인 규제로 접근해야 한다"고 밝혔다.

팽동현기자 dhp@dt.co.kr