폭주하는 챗GPT… 美·中 정부 결국 칼 들었다

美, 규제 입법안 검토 시작… 中, 서비스 전에 평가받아야

미국과 중국 당국이 대화형 인공지능(AI) ‘챗GPT’ 열풍을 시작으로 폭발적으로 커지고 있는 생성형 AI 산업 규제에 나섰다. 텍스트, 이미지, 동영상 등 다양한 분야에서 생성형 AI 서비스가 난립하는 가운데 개인 정보 유출이나 가짜 뉴스 확산 같은 문제를 방지할 안전장치를 마련하겠다는 것이다.

샘 올트먼 오픈AI 최고경영자(CEO)가 지난 10일 일본 도쿄의 총리관저 앞에서 기자들과 만나 얘기하고 있다. 미·중이 챗GPT와 같은 생성형 AI 규제에 착수하면서, 오픈AI의 대응에도 관심이 모이고 있다. /EPA 연합뉴스

◇미 정부 본격 규제 돌입

11일(현지 시각) 미국 월스트리트저널(WSJ)에 따르면, 조 바이든 미국 행정부는 생성형 AI를 규제할 수 있는 입법안을 검토하기 시작했다. 첫 단계로 미 상무부는 이날 신규 AI 서비스가 공개되기 전 검토할 안전 사항과 이를 의무적으로 이행하게 할 수 있는 방법 등에 대한 의견 수렴에 착수했다. 60일 동안의 의견 청취 후 상무부는 백악관과 미 의회에 의견서를 제출하고, 당국은 이를 토대로 규제안 작업에 나선다.

상무부 산하 국가통신정보국(NTIA) 앨런 데이비드슨 국장은 “AI가 책임감 있게 사용되고 있는지 확인하기 위해 가드레일(보호 장치)을 설치해야 한다”면서 “식품과 자동차가 적절한 검증 뒤에 시장에 출시되는 것처럼 AI도 절차가 필요하다”고 말했다.

앞서 조 바이든 미국 대통령은 지난 4일 열린 백악관 과학기술자문위원회 회의에서 “AI가 우리 사회와 경제, 국가 안보에 미칠 위험성을 생각해 봐야 한다”며 “책임 있는 혁신과 적절한 보호 조치 마련이 필요하다”고 주문한 바 있다. 당시 자문위원회에 참여했던 테크 업계 관계자들은 “문제가 될 만한 특정 질문에는 답하지 않도록 프로그래밍하고 있다”고 밝혔다.

이미 AI의 위험성을 경고하며 ‘6개월 정도 개발을 멈춰야 한다’고 주장했던 미국 테크 업계에선 규제 움직임을 반기고 있다. 챗GTP 개발사 오픈AI 최대 투자자인 마이크로소프트는 성명을 내고 “정책을 환영한다”고 밝혔다.

오픈 AI의 챗GPT는 사용자들의 질문 내용과 개인 정보가 유출되는 등 이미 여러 차례 사고를 일으켰다. 또 확인되지 않은 정보를 그럴듯하게 꾸며 답변하거나, 데이터의 출처를 불분명하게 적시하는 문제도 있다. 지난달 31일 이탈리아는 챗GPT 접속을 국가적으로 차단했고, 캐나다 당국은 지난 4일 챗GPT의 개인 정보 수집 절차를 문제 삼으며 운영사인 오픈AI에 대한 조사를 시작했다.

◇중국 당국은 검열에 초점

같은 날 중국 당국도 ‘생성형 AI 서비스 관리법’ 초안을 공개했다. 이 규제안에 따르면, 새로운 생성형 AI 서비스는 출시 전에 당국의 안전 평가를 받아야 한다. 평가 항목으로는 개인 정보 보호, 제공 정보의 진실성·객관성 보장 및 지식재산권 보호 등 조건이 포함됐다. 다만 이 법안은 ‘생성형 AI 서비스는 사회주의 핵심 가치관을 지키고, 국가 정권 및 사회주의 제도를 전복시키거나 국가 통일을 파괴하는 내용이 포함되선 안 된다’고 규정했다. 사실상 중국이 자국 인터넷에서 철저하게 검열하고 있는 반정부적 메시지와 역사적 정보들을 AI 서비스에서도 검열하겠다는 뜻으로 풀이된다. 당국은 해당 규정을 준수하지 않을 경우 서비스 공급업자들은 벌금을 부과받을 수 있으며, 심할 경우 형사 조사에 직면할 수 있다고도 명시했다.

최근 ‘중국판 챗GPT’인 ‘어니봇’을 공개한 바이두가 이례적으로 애플을 상대로 소송을 진행한 것도 당국의 눈치를 본 것이라는 분석이 나온다. 바이두는 지난 7일 “중국 내 애플 앱스토어에서 ‘어니봇’의 이름을 딴 가짜 앱이 유통되는 것을 발견했다”며 앱 개발사들과 유통사인 애플을 고소했다고 밝혔다. 중국 IT 업계에선 이 가짜 앱들에서 검열되지 않은 반정부적 내용이 나올 경우를 대비해 회사가 강경 대처를 선택했다는 평가가 나왔다.

중국에서는 바이두에 이어 알리바바와 센스타임도 잇따라 생성형 AI 서비스를 발표하며 AI 경쟁이 치열해지고 있다. 하지만 일각에서는 중국의 강력한 검열 정책이 중국의 AI 기술 발전을 제한할 것이라는 지적도 나온다.