‘챗GPT 차단’ 이탈리아가 불 댕긴 ‘AI 디스토피아’ 논쟁

‘개인정보 보호’ 이유로 접속 막아…서방에선 첫 사례
데이터 출처 등 잇단 논란 속 “개발 중단” 목소리 비등
일각선 “우려 방향 잘못돼”…“중단은 무의미” 주장도

인공지능(AI) 이미지 생성 프로그램인 ‘미드저니’에 ‘사무실에서 AI 기기를 이용해 일하는 사람들’, ‘감시하는 존재’ 등의 키워드를 넣어 생성한 이미지.

대화형 인공지능(AI) 챗GPT를 시작으로 전 세계 AI 개발 경쟁에 대한 우려가 커지면서 첨단 AI의 사용 및 개발에 제동을 걸어야 한다는 목소리가 커지고 있다.

■ 개인정보 보호 이유 금지 첫 사례

이탈리아 데이터보호청은 1일(현지시간) 개인정보 보호를 위해 챗GPT 접속을 차단하고 개발사인 오픈AI가 유럽연합(EU)의 개인정보보호규정(GDPR)을 준수했는지 여부를 조사하겠다고 발표했다.

중국, 북한, 이란 같은 권위주의 국가에서는 이미 챗GPT 접속이 차단된 상태지만, 서방 국가에서 개인정보 보호를 이유로 챗GPT를 금지한 것은 이탈리아가 처음이라고 뉴욕타임스(NYT)는 전했다.

데이터보호청은 “챗GPT가 알고리즘 학습 목적으로 개인 데이터를 대량으로 수집하고 저장하는 것을 정당화할 법적 근거가 없다”고 밝혔다. 또 사용자의 연령을 확인할 방법이 없어 미성년자들의 발달 및 인식 수준에 부적절한 답변을 제공할 수 있다고 지적했다.

오픈AI는 성명을 내고 이탈리아 사용자들의 접속을 차단했으며 개인의 프라이버시 보호에 최선을 다하고 있다고 밝혔다. 이어 “우리도 AI 규제가 필요하다고 믿는다”고 덧붙였다.

이 같은 움직임은 다른 국가로도 확산될 가능성이 크다. 아일랜드 데이터보호위원회는 이탈리아 정부의 조치와 관련해 EU의 모든 데이터 보호 당국과 협력할 것이라고 밝혔다. 영국 정보위원회도 데이터보호법 미준수에 대해 이의를 제기할 준비가 돼 있다고 밝혔다.

■ “차기 모델 개발 중단하라”

전문가들은 AI가 인간 언어를 이해하고 구사하는 데 필요한 대규모 언어 모델(LLM)을 구축하는 과정에서 데이터를 어떻게 획득하고 처리하는지 불분명하다며 우려를 표시해왔다. 나아가 가짜뉴스 확산으로 인한 공론장 파괴, 범죄 활용 가능성, AI가 인간의 일자리를 대체하는 데 따른 대규모 실업, 문명에 대한 통제권 상실 등 최첨단 AI가 몰고올 변화에 대한 우려가 끊이지 않고 있다.

‘AI 디스토피아’ 논쟁이 본격화하면서 윤리적·기술적 안전장치가 마련될 때까지 차세대 AI 모델 개발을 중단해야 한다는 요구도 커지고 있다.

지난달 30일 미국의 비영리단체 ‘인공지능 및 디지털 정책센터’는 오픈AI가 최근 출시한 차세대 모델 GPT-4가 “편향적이고 기만적이며 개인정보 보호와 공공안전에 위협이 된다”며 오픈AI를 연방거래위원회(FTC)에 고발했다.

또 다른 미국의 비영리단체인 미래생명연구소(FLI)가 지난달 28일 발표한 ‘모든 AI 연구소에 GPT-4보다 더 강력한 AI 개발을 최소 6개월간 중단할 것을 요청한다’는 내용의 공개서한은 지지자가 꾸준히 늘면서 현재까지 2800명 이상이 서명했다고 FLI는 밝혔다. 여기에는 일론 머스크 테슬라 최고경영자(CEO), 애플 공동창업자 스티브 워즈니악, 딥러닝 창시자로 알려진 요슈아 벤지오 몬트리올대 교수, <사피엔스>로 유명한 베스트셀러 작가 유발 하라리 등도 동참했다.

■ ‘신러다이트’란 주장도

그러나 일각에서는 최근 쏟아지는 AI에 대한 경고와 우려가 잘못된 과녁을 향하고 있다는 지적도 나온다. 정치경제학 관련 뉴스레터 ‘엑스멀티튜드’는 지난달 29일 ‘인공지능과 러다이트(기계 파괴 운동)의 미래’라는 제하의 글에서 “어리석은 사람만이 AI가 작성한 텍스트를 그대로 세상에 내보낼 것”이라고 지적했다. 이어 AI가 일자리를 파괴한다는 우려에 대해서도 “수단과 방법을 가리지 않고 끊임없이 인건비를 절감하려는 자본주의의 더 큰 그림자”에 대해 문제 제기를 해야 한다고 주장했다.

머스크 등이 서명한 FLI의 공개서한에 담긴 서명 일부가 가짜라는 보도도 나왔다.

서한에서 첨단 AI의 위험성을 뒷받침하기 위해 인용한 논문과 연구자료 원저자들 중 일부도 AI 개발 일시중단에 반대하는 입장을 밝혔다고 로이터는 전했다. 미국 코네티컷대학의 시리 도리 하코헨 조교수는 AI가 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화시킬 수 있고 이런 문제는 이미 현실화한 상황이라며, 이제 와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다고 지적했다.

정원식 기자 bachwsik@kyunghyang.com