EU, AI기업에 매출 4% 벌금 부과하나 “개인정보 수정 권한 있어야”

비영리단체 NOYB 오픈AI 상대
오스트리아 당국에 조사 요청
“정보 수정 못 해 GDPR 위반”
AI 기업 대다수 해당 논란될 듯

유럽 개인정보권리 비영리단체인 노비(noyb)는 29일 블로그를 통해 “인공지능 챗봇 챗GPT는 개인 정보에 관한 잘못된 정보를 바로잡는 기능이 없다”고 지적했다. <출처=NOYB>

오픈AI를 비롯한 인공지능(AI) 기업들이 유럽연합(EU) 내에서 개인정보보호와 관련된 새로운 소송에 직면했다.

유럽 개인정보권리 비영리단체인 노비(noyb)는 29일 블로그를 통해 “인공지능 챗봇 챗GPT는 개인 정보에 관한 잘못된 정보를 바로잡는 기능이 없다”고 지적했다. EU가 제정한 일반 개인정보보호법(General Data Protection Regulation·GDPR)에 따르면, 공개된 정보는 정확성을 보장하고, 사용자가 저장된 정보와 그 출처에 대해 완전히 알 수 있어야 한다. 이에 대해 노비는 “오픈AI는 현재 챗GPT에서 잘못된 정보를 정정할 수 없다고 공개적으로 인정하고 있다”며 “데이터가 어디에서 왔는지 또 개인에 대해 어떤 데이터를 저장하는지도 명시할 수 없는 입장”이라고 꼬집었다.

이날 노비는 오픈AI를 상대로 오스트리아 데이터 보호 당국에 공식 조사를 요청했다. 오스트리아는 EU내에서 가장 적극적인 GDPR 집행 국가로 꼽힌다. 오스트리아 데이터 보호 당국은 향후 대규모언어모델(LLM) 기업에 대한 조사를 실시할 전망이다. 노비의 마르테 데 그라프 변호사는 “AI 기업들은 챗GPT와 같은 챗봇을 사용해 개인 데이터를 처리할 때 EU 법률을 준수할 수 없다”면서 “정확하고 투명한 결과를 생성할 수 없는 시스템은 개인 데이터를 생성하는 데 사용될 수 없다. 기술이 법적 요구사항을 따라야지, 그 반대가 되어서는 안 된다”고 말했다.

EU GDPR은 제5조를 통해 개인정보보호에 대한 정확성을 요구하고 있다. 또 15조는 출처에 대한 명기를 요구하고 있으며, 16조는 개인에 대한 정정 권한을 부여하고 있다. 만약 개인정보 보호를 위반한 기업은 전 세계 연간 매출액의 4% 또는 2,000만 유로 가운데 더 높은 금액을 과징금으로 내야 한다.

하지만 AI 챗봇에 대한 EU의 GDPR 적용은 향후 테크 업계에서 논란이 될 가능성이 크다. AI 기업 상당수가 EU에 진출할 때 법 위반이 불가피하기 때문이다. 오픈AI는 현재 정보 수정에 대해 이메일로 수정 접수는 받고 있지만, 현행 모델은 실시간 수정 대응이 불가능하다.