인공지능 과부하로 잦은 먹통 … 클로드 1년 중 5일 블랙아웃

챗GPT도 최근 잇단 장애
수요 폭증에 안정성 우려

대표적 생성형 인공지능(AI) 서비스인 클로드와 챗GPT가 잇단 서비스 장애를 겪으면서 이용자 불편이 커지고 있다. 클로드는 최근 장애 발생률로 추산해보면 1년 기준 5일 가까이 서비스가 먹통인 수준이다.

폭발적으로 늘어나는 사용자 수요를 각 기업 인프라스트럭처가 감당하지 못하는 상황에서 기업 간 모델 출시 경쟁이 가열되고 새로운 기능들이 충분한 안정성 검증 없이 빠르게 도입되면서 문제가 심화되는 분위기다.

17일 AI 업계에 따르면 챗GPT는 지난 11일 파일 첨부 기능에 오류가 발생하면서 약 4시간 동안 서비스 성능이 저하되는 장애를 겪었다. 불과 이틀이 지난 14일에는 로그아웃한 사용자가 다시 로그인하는 과정에서 약 25분간 먹통 사태가 빚어지기도 했다.

이처럼 챗GPT 서비스의 크고 작은 장애가 이어지면서 챗GPT의 최근 90일간 정상 가동률(업타임)은 99.82%를 기록하고 있다.

백분율로 보면 서비스가 안정적으로 운영되는 것 같지만, 장애가 발생하는 시간으로 환산하면 하루 24시간 중 약 2분35초간 장애가 발생하는 셈이다. 이를 1년 기준으로 환산하면 약 15시간44분에 달한다.

일반적인 서비스형소프트웨어(SaaS)나 클라우드 기업이 보장하는 최소 가동률 수준인 99.9%나 99.99%에 한참 못 미치는 수준이다.

앤스로픽은 상황이 더 심각하다. 앤스로픽의 AI 서비스 클로드의 최근 90일간 업타임은 98.66%로 99%를 밑돈다. 이는 약 19분18초의 장애가 매일 발생하는 수준으로, 1년 환산 시 약 5일 동안 서비스가 먹통이라고 볼 수 있다. 앤스로픽은 지난해 말 AI 코딩 도구 '클로드 코드'를 기점으로 사용자가 급격히 증가하면서 불안정한 서비스 상태가 이어지는 상황으로, 지난달 28일만 해도 대부분의 클로드 서비스가 1시간 이상 먹통이 되는 대규모 장애가 발생했다. 개발자들의 필수 소프트웨어가 된 클로드 코드의 업타임 또한 99.14%에 그친다.

업계에서는 기업들이 모델·서비스 경쟁에 따라 안정성이 충분히 검증되지 않은 상태에서도 서비스 출시를 강행한다는 점을 먹통 사태가 심화되는 요인으로 꼽고 있다.

한편 앤스로픽은 수요에 대응하기 위해 최근 일론 머스크의 AI 기업 xAI의 '콜로서스 1' 데이터센터를 임차하는 등 연산 인프라 확보에 나섰다.

[정호준 기자]