“좋대서 구독했더니 뻑하면 먹통”…클로드, 1년중 5일은 못쓴다

챗GPT도 최근 잇단 장애
수요 폭증에 안정성 우려

클로드 로고. [앤트로픽]

대표적 생성형 인공지능(AI) 서비스인 클로드와 챗GPT가 잇단 서비스 장애를 겪으면서 이용자 불편이 커지고 있다. 클로드는 최근 장애 발생률로 추산해보면 1년 기준 5일 가까이 서비스가 먹통인 수준이다.

폭발적으로 늘어나는 사용자 수요를 각 기업 인프라스트럭처가 감당하지 못하는 상황에서 기업 간 모델 출시 경쟁이 가열되고 새로운 기능들이 충분한 안정성 검증 없이 빠르게 도입되면서 문제가 심화되는 분위기다.

17일 AI 업계에 따르면 챗GPT는 지난 11일 파일 첨부 기능에 오류가 발생하면서 약 4시간 동안 서비스 성능이 저하되는 장애를 겪었다. 불과 이틀이 지난 14일에는 로그아웃한 사용자가 다시 로그인하는 과정에서 약 25분간 먹통 사태가 빚어지기도 했다.

17일 기준 오픈AI 서비스 현황 지표 [출처 = 오픈AI 웹사이트]

이처럼 챗GPT 서비스의 크고 작은 장애가 이어지면서 챗GPT의 최근 90일간 정상 가동률(업타임)은 99.82%를 기록하고 있다.

이는 전체 시간 중 장애 없이 정상 작동하는 시간 비율이 99.82%라는 의미다. 백분율로 보면 서비스가 안정적으로 운영되는 것 같지만, 장애가 발생하는 시간으로 환산하면 하루 24시간 중 약 2분35초간 장애가 발생하는 셈이다. 이를 1년 기준으로 환산하면 약 15시간44분에 달한다.

일반적인 서비스형소프트웨어(SaaS)나 클라우드 기업이 보장하는 최소 가동률 수준인 99.9%나 99.99%에 한참 못 미치는 수준이다.

올해 들어 오픈AI와 앤스로픽의 기술 성능이 무서운 속도로 성장하는 데 비해 서비스 안정성이 이처럼 역행하는 배경에는 폭증하는 수요로 인한 인프라 한계가 있다.

17일 기준 앤스로픽 서비스 현황 지표 [출처 = 앤스로픽 웹사이트]

앤스로픽은 상황이 더 심각하다. 앤스로픽의 AI 서비스 클로드의 최근 90일간 업타임은 98.66%로 99%를 밑돈다. 이는 약 19분18초의 장애가 매일 발생하는 수준으로, 1년 환산 시 약 5일 동안 서비스가 먹통이라고 볼 수 있다.

앤스로픽은 지난해 말 AI 코딩 도구 ‘클로드 코드’를 기점으로 사용자가 급격히 증가하면서 불안정한 서비스 상태가 이어지는 상황으로, 지난달 28일만 해도 대부분의 클로드 서비스가 1시간 이상 먹통이 되는 대규모 장애가 발생했다. 개발자들의 필수 소프트웨어가 된 클로드 코드의 업타임 또한 99.14%에 그친다.

업계에서는 기업들이 모델·서비스 경쟁에 따라 안정성이 충분히 검증되지 않은 상태에서도 서비스 출시를 강행한다는 점을 먹통 사태가 심화되는 요인으로 꼽고 있다.

한편 앤스로픽은 수요에 대응하기 위해 최근 일론 머스크의 AI 기업 xAI의 ‘콜로서스 1’ 데이터센터를 임차하는 등 연산 인프라 확보에 나섰다.

안정적인 인프라 기반이 확보될수록 이 같은 장애 빈도는 줄어들 것으로 기대된다. 다만 기업에는 이 같은 장애에 대비해 특정 AI 서비스에 과도하게 의존하기보다 단일 공급망 종속을 피하고 대응책을 마련해야 하는 상황이 만들어지고 있다.