[훅 들어온 생성형 AI 시대] AI 육성 장려하는 美·日… 韓도 자율 규제로 산업 싹 틔워야

10 윤리 문제·종말론… AI 질서는?
美 "윤리규범 지키며 점진접근"
구글·MS 등 만나 방향성 논의
EU, 인권 내세우며 엄격 관리
韓 정부, AI 내수시장 보호하고
글로벌 진출 돕는 법안 마련해야

챗GPT를 시작으로 전세계가 생성형AI(인공지능) 열풍에 휩싸인 상황에서 AI의 부작용을 최소화하기 위한 질서와 규제 논의가 속도를 내고 있다. 주요국들의 입장과 계산이 다르다 보니 세계적인 합의는 쉽지 않을 것으로 보이는 가운데 세계에 몇 없는 초거대AI 보유국으로서 효과적인 대응이 요구되고 있다.

일론 머스크 테슬라 CEO(최고경영자)는 12일(현지시간) 트위터의 실시간 음성채팅 '트위터 스페이스'에서 미 하원의원 로 칸나, 마이크 갤러거와 AI규제를 두고 토론했다. 이 자리에서 머스크는 지난달 중국을 찾아 중국 정부 관계자과 나눈 대화를 바탕으로 "중국은 AI 규제 관련 국제 협력에 관심이 있다"고 밝혔다.

생성형AI는 그럴듯한 거짓을 지어내 답변하는 할루시네이션(환각) 문제부터 학습과정과 결과물을 통한 개인정보·기밀정보 유출, 저작권 침해까지 다양한 문제를 파생시키면서 규제 필요성이 대두되고 있다. 챗GPT는 한때 개인정보보호 등의 이유로 이탈리아에서 접속이 차단된 바 있다. 경쟁자인 구글 바드도 아직 EU(유럽연합) 지역에 서비스를 제공하지 못하고 있다.

그동안 초거대AI 개발 중단 등을 촉구하며 챗GPT 개발사 오픈AI와 대립각을 세우기도 했던 머스크는 이날 자신이 이끄는 새로운 AI기업 'xAI'의 공식 출범도 발표했다. 그 속내와는 별개로 AI규제 관련 합의는 G7(주요7개국) 내에서도 순탄치 않다. EU(유럽연합)는 인권 보호 등에 중점을 두고 엄격한 관리를 논하는 반면, 미국·일본 등은 유연한 AI 활용과 상호운용성을 중시한다. 생성형AI 결과물에도 사회주의 가치가 반영돼야 한다고 규정하는 중국은 더욱 거리가 먼 상황이다.

◇복잡한 이해관계 속에 AI규제 파편화 불가피할 듯

지난달 유럽의회 본회의를 통과한 EU AI법(AI act)은 EU 이사회 및 집행위원회(EC)와의 3자 협상을 거쳐 2026년 시행이 점쳐진다. EC가 2년여에 걸쳐 준비하고 올해 들어 생성형AI 관련 내용까지 추가한 이 법안은 위험성에 따라 4단계로 AI시스템을 나눠 규제한다.

용인불가 단계 다음 수위인 고위험 단계에 생체인식 등 이미 널리 쓰이는 기술도 포함하는 등 포괄적인 규제를 추구하는 게 특징이다. 생성형AI 관련해서는 불법적인 콘텐츠를 생성하지 않도록 하는 관리 의무를 기업에 부여한다. AI가 생성한 콘텐츠의 결과물에는 원 저작물 등 출처를 표기해야 하며, AI를 통해 제작했음을 명시해야 한다. 이를 위반한 LLM(대규모언어모델) 서비스 기업에는 연간 매출액의 최대 2%까지 과징금이 부과된다.미국 바이든 행정부도 지난해 'AI권리장전 청사진'을 발표한 데 이어 'AI 활용 규제 지침' 제정을 준비하고 있다. 의회와 FTC(연방거래위원회)를 중심으로 '알고리즘책임법안' 입법도 추진되고 있다. 자동화된 의사결정 시스템에 대한 알고리즘 영향평가를 실시하고 그 결과를 제출토록 하는 내용이다. 앞서 카멀라 해리스 부통령은 알파벳(구글)·MS(마이크로소프트)·오픈AI·앤쓰로픽 등 AI 기업 CEO들과 만나 책임 있는 AI를 위한 노력을 촉구한 바 있다. 엔비디아·스태빌리티AI·허깅페이스 등 총 7개사가 AI시스템 공개 평가에 시범적으로 참여하기로 했다.

미국은 기존 윤리규범에 행정적 강제성을 접목하는 방식으로 AI규제에 점진적으로 접근하고 있다. 방향성을 설정하고 사전적인 조치는 다양하게 취하고 있지만, 영향평가 등 의무는 최소화하며 산업 진흥에 중점을 두는 기조다. EU의 규칙이 표준화 등 세계적 영향을 끼치는 것을 뜻하는 '브뤼셀 효과'가 EU GDPR(일반개인정보보호법) 때만큼 AI법에도 나타나길 기대하긴 어려워 보인다.

신기술 관련 법제 분야 세계적 석학인 아누팜 챈더 조지타운 법대 교수는 지난달 개인정보보호위원회가 개최한 국제 컨퍼런스에서 "AI규제의 세계적 단일화는 어려울 것으로 예상된다. 얼굴인식도 나라마다 허용 수준이 다르고, 각 문화권에서 인식이나 용어 정의도 차이가 있다"고 짚었다. 해결책으로 개인정보보호 등 핵심 원칙에 대해 세계적 합의를 하고 이를 토대로 한 상호호환성 및 민관협력을 제시한 그는 "과거 볼보가 3점식 안전벨트 특허를 경쟁사에도 무상으로 제공했듯, AI분야도 성공과 실패를 공유하며 함께 안전장치를 마련해갈 필요가 있다"고 말했다.

◇"산업 먼저 키우되 글로벌 규제 환경 대비해야"

각국의 사정과 별개로 국제사회에서 AI규제 논의는 현재진행형이다. 지난 5월 샘 알트만 오픈AI CEO가 핵무기 확산을 감시하는 IAEA(국제원자력기구) 같은 기구가 AI 규제에도 필요하다고 주장한 데 이어 지난달 안토니우 구테흐스 UN(국제연합) 사무총장은 실제로 IAEA 수준의 AI규제 관련 국제기구를 구상하고 있다고 발표했다.

이 가운데 AI윤리 등을 강조하는 오픈AI의 행보에 대해 긍정적인 평가도 있지만, 일각에선 후발주자들에 대한 '사다리 걷어차기'란 분석도 나온다. 올해 일본 기시다 총리, 프랑스 마크롱 대통령, 영국 수낙 총리 등이 각각 바이든 대통령과 만난 자리에서 글로벌 AI 규제 리더십에 대한 관심과 자국 정책·법제 역량을 언급한 것도 같은 맥락으로 풀이될 수 있다. 디지털 산업에선 선도국이라 할 수 없는 상황에서 AI산업 유치를 통해 세계적 영향력 확대를 꾀하려는 것으로도 해석된다. 전세계에서 생성형AI의 기반모델인 초거대AI를 자체 개발해 보유한 곳은 5~6개 나라밖에 없다. 한국은 이런 LLM 분야에서 미국·중국에 이어 세계 3위를 놓고 경쟁할 만한 실력을 지닌 것으로 평가된다. 현재로선 규제로 방어하는 형국인 EU나 다른 나라들은 물론, 우리가 쫓아가야 할 선도국인 미국과도 입장이 다를 수밖에 없다. 지난달 열린 초거대AI추진협의회 발족식에서 AI규제는 글로벌 상황을 지켜보고 해도 늦지 않다는 목소리가 나온 이유다.

국내에선 AI법(인공지능 육성 및 신뢰 기반 조성에 관한 법률안)이 지난 2월 국회 과학기술정보방송통신위원회 법안심사소위에서 복수의 관련 법안 병합심의를 통과됐다. 향후 과방위 전체회의와 법제사법위원회 심사·의결이 이뤄지면 국회 본회의에 상정될 예정이다. 신뢰 가능한 AI, AI윤리 원칙 확산을 위한 추진체계 등 거버넌스 정립이 이 법안의 주요 내용이다. 주로 AI산업 진흥에 초점을 맞추지만, 사회 인프라나 면접·대출·평가 등 기본권 관련 고위험영역의 경우 사업자에 의무를 부과하는 내용도 포함됐다.

전문가들은 미래 먹거리인 AI산업을 지키고 키우려면 현재로선 진흥에 무게를 싣는 게 합리적이라고 입을 모은다. 다만 세계적으로 기술과 정세 모두 급변하는 만큼 필요 시 대응할 수 있도록 규제 관련 역량을 사전에 확보해야 한다는 지적도 나온다. 향후 AI 수출까지 활성화되는 장밋빛 전망을 전제로 한다면, 결국 우리 길은 우리가 개척해야 한다는 주장이 제기된다.

최경진 한국인공지능법학회장(가천대 법학 교수)은 "AI 분야는 초기 단계이므로 산업 진흥에 주력할 필요가 있다. 다만 가이드라인이나 자율적인 규제를 통해 이용자 피해를 최소화하고 글로벌 규제 환경에 대비하는 역량를 갖추는 게 필수적"이라며 "AI모델이 AI 윤리 등에 강점을 지니면 향후 글로벌 시장에서 주요 경쟁력이 될 수 있다. 필요 시 국제사회에 선제적으로 목소리를 낼 수 있도록 AI규제 관련 연구도 꾸준히 해야 할 것"이라고 밝혔다.

팽동현기자 dhp@dt.co.kr