‘최고의 기술’ 각광 받더니…정보유출 주범 찍혀 퇴출 위기

최근 사용자 정보 유출 사고 일자
伊 당국 조사 착수...잠정 차단 결정
챗GPT, 개인정보도 대거 활용해 학습
13세 미만 아동, 유해 정보 노출 우려도

이탈리아가 개인정보 유출을 이유로 인공지능(AI) 챗봇인 ‘챗GPT’ 의 자국 내 접속을 일시적으로 차단했다. 서방 국가 중 챗GPT를 차단한 첫 사례다. 챗GPT에 대한 세계적인 열풍이 계속되는 가운데 이번 조치가 생성형 AI 규제에 대한 새로운 논의를 촉발시킬 지 주목된다.

31일(현지시간) 영국 파이낸셜타임스(FT)에 따르면 이탈리아 데이터 보호청은 개인정보 유출의 우려가 있다며 자국 내 챗GPT 사용을 잠정적으로 금지했다. 데이터 보호청은 또한 오픈AI에 대해 20일 이내 개선방안을 제시하지 않으면, 최대 2000만 유로(약 284억원) 또는 오픈 AI의 연간 글로벌 매출액의 4%에 해당하는 벌금을 부과할 계획이다.

현재 이탈리아 외에 중국과 홍콩, 이란, 러시아, 아프리카 일부 지역에서도 챗GPT를 사용할 수 없다.

이탈리아 당국 발표에 따르면 지난달 20일 발생한 챗GPT 개인정보 유출 사고가 이번 조치에 단초를 제공했다. 약 9시간 동안 오픈 AI 측이 발송한 ‘가입 확인 이메일’이 잘못된 사용자에게 발송되는 사고가 발생했다. 해당 메일에는 다른 사용자 이름, 이메일 주소, 결제 주소, 신용카드 번호의 마지막 네 자리, 신용카드 만료일 정보까지 고스란히 담겼다. ‘내 계정’ 항목에 들어가서 ‘내 구독 관리’를 클릭한 경우에도 타인의 개인정보 확인이 가능했다.

오픈AI가 개발한 챗GPT 웹사이트 화면.

이탈리아 당국은 개인정보법 위반에 관해 챗GPT에 대한 조사에 착수했고, 10일이 경과한 이날 챗GPT에 대한 잠정 차단 조치를 결정했다. 이탈리아 당국은 “챗GPT 알고리즘을 훈련시키기 위해 개인 데이터의 방대한 수집과 처리를 뒷받침하는 법적 근거가 없는 것으로 보인다”고 밝혔다. 오픈 AI는 EU의 일반 데이터 보호 규정(GDPR)과 다른 개인정보 보호법을 위반하지 않았다고 밝혔다.

이탈리아 당국은 챗GPT를 금지한 또 다른 이유로 미성년자 보호를 꼽았다. 챗GPT는 이용자 연령 제한을 13세 이상으로 정했지만, 사이트 접속때 연령을 확인하는 절차가 없다. 이 때문에 미성년자들이 부절적한 정보에 무분별하게 노출될 수 있다는 것이다.

FT에 따르면 EU는 생성형 AI규제를 위해 기존의 GDPR을 넘어선 새로운 ‘EU AI법’ 입법을 계획 중이다. EU내 개인정보 법령을 위반하는 기업에 전 세계 연간 매출액의 6% 혹은 약 3000만 유로의 벌금이 부과하는 내용이 담길 것으로 보인다. 아일랜드 데이터보호 위원회도 “이탈리아 규제 당국의 조치를 면밀하게 지켜보고 있다”며 “챗 GPT 금지와 관련해 모든 EU 데이터 보호 당국과 협력할 것”이라고 밝혔다. 영국의 독립적인 데이터 규제 기관인 정보위원회도 “AI의 발전을 지원할 것이지만 개인정보법 위반 사례에 정면 도전할 준비도 돼 있다”고 밝혔다.

챗GPT는 미국의 비영리 연구소 오픈AI가 개발한 대화형 AI 챗봇이다. 지난해 11월 출시된 이후로 전세계에서 선풍적인 인기를 끌었다. 온라인 상의 방대한 데이터 수집을 바탕으로 백과사전식 답변은 물론 시, 소설, 대학 리포트, 코딩 작성까지 가능해 만능 AI로 불리운다.

다만 이 과정에서 사용자의 개인정보를 활용한다는 점이 논란이 됐다. 앞서 오픈 AI 관계자는 “챗 GPT를 학습시키는 데 있어서 사용자들의 개인정보 활용을 줄이려는 노력을 적극적으로 하고 있다”고 밝힌 바 있다. 사실상 챗GPT 학습을 위해 수집된 개인정보를 활용하고 있음을 오픈 AI에서도 인정한 것이다.