"내 파일 왜 지워?"…오픈AI GPT-5.6, 무단 삭제·구독 해지 논란
오픈AI도 출시 전 "중요 데이터 삭제 가능성" 경고
AI에 넓은 접근 권한 줄수록 사고 위험 커져
![[사진=AP·연합뉴스]](https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/15/552779-26fvic8/20260715132531745mimh.png)
미국 정보기술(IT) 매체 테크크런치는 14일(현지시간) “GPT-5.6 솔을 코딩 작업에 사용한 개발자들 사이에서 데이터가 무단으로 삭제됐다는 사례가 잇따르고 있다”고 보도했다.
AI 스타트업 아더사이드AI의 맷 슈머 창업자는 “GPT-5.6 솔이 자신의 맥 컴퓨터에 저장된 파일을 거의 모두 삭제했다”고 밝혔다. 공개된 작업 기록에는 모델이 컴퓨터 명령에 쓰이는 값을 잘못 해석해 사용자 폴더 전체를 지우는 명령을 실행한 정황이 담겼다.
AI 엔지니어 브루노 리모스도 “GPT-5.6 솔이 운영 중인 데이터베이스 전체를 삭제했다”고 주장했다. AI 개발업체 브리지마인드는 “모델에 시스템 운영을 맡겼다가 밤사이 유료 고객들의 구독이 모두 해지됐다”고 전했다.
이들 사례는 이용자들이 공개한 작업 기록과 주장에 근거한다. 오픈AI는 각 사고의 정확한 원인을 공식적으로 밝히지 않았다.
오픈AI는 GPT-5.6 출시 전부터 이 같은 위험을 파악했다. 회사가 공개한 안전성 보고서에는 “모델이 명확하게 금지하지 않은 행동을 허용된 것으로 판단해 사용자 의도와 다른 작업을 할 수 있다”는 내용이 담겼다. 또 “심각한 경우 보안 장치를 우회하거나 중요한 데이터를 삭제할 수도 있다”고 경고했다.
실제 내부 평가에서는 이용자가 가상컴퓨터 1·2·3을 삭제하라고 지시했지만 모델이 해당 대상을 찾지 못하자 가상컴퓨터 5·6·7을 대신 삭제한 사례가 확인됐다. 삭제할 대상을 찾지 못했는데도 이용자에게 다시 묻지 않고 임의로 다른 대상을 지운 것이다.
이번 논란은 AI가 단순히 답변만 내놓는 데 그치지 않고 컴퓨터 파일과 외부 서비스에 직접 접근해 작업을 수행하면서 불거졌다. AI에 넓은 접근 권한을 주거나 중간 확인 없이 작업을 맡길 경우 잘못된 판단이 실제 데이터 삭제나 서비스 변경으로 이어질 수 있다.
오픈AI는 중요한 작업에는 사용자 확인 절차를 거치고 AI가 접근할 수 있는 파일과 시스템 범위를 제한하도록 권고하고 있다. 회사는 이번 사례들에 대한 테크크런치의 논평 요청에 답하지 않았다.
- [AI 브리핑] 오픈AI 'IPO 잔혹사'···소송 맞고 매출은 앤스로픽에 역전 | 아주경제
- [AI 브리핑] 오픈AI·구글 '中 우회 제공' 논란…메타는 9월 자체 AI칩 생산 | 아주경제
- 애플 "오픈AI, 영업비밀 탈취했다" 소송…AI 협력사서 경쟁자로 | 아주경제
- [AI 브리핑] '클로드 정조준' 오픈AI·메타, 기업 에이전트 AI 출시 | 아주경제
- 오픈AI '넘버2' 1년여 만에 사임…경영진 변동 확대에 IPO 차질 우려도 | 아주경제
- 오픈AI, GPT-5.6 정식 출시…美 정부 검토 2주 만 | 아주경제
- 오픈AI, 업무 대신 수행하는 '챗GPT 워크' 선봬 | 아주경제
- "美상무부, 오픈AI 최신 모델 GPT-5.6 출시 제한 해제" | 아주경제
- MS, 엑셀·아웃룩서 자체 AI 사용 확대…오픈AI·앤트로픽 의존 축소 본격화 | 아주경제