앤트로픽이 5세대 AI 모델 페이블5를 공개하며 안전장치를 적용했다고 강조했다. 이에 대해 실효성에 대한 의문도 제기되고 있지만, 실제 이용자들 사이에서는 과도한 제한으로 사용이 불편하다는 불만도 나온다.
10일(현지시간) 미국 기술 전문지 비즈니스 인사이더에 따르면 최근 보안 연구자들 사이에서 페이블5에 과도한 안전장치가 적용돼 정상적인 업무까지 차단한다는 불만이 나오고 있다.
클로드 페이블5는 앤트로픽의 5세대 AI 모델이다. 기존 모델이 지속적으로 처리하기 어려웠던 수일 단위의 복합적이고 비동기적인 작업도 수행할 수 있다. 미토스(Mythos)급 성능을 기반으로 한 모델이라는 게 앤트로픽 측 설명이다.
현재 앤트로픽의 최고 수준 코딩 모델이라는 평가다. 대규모 시스템 마이그레이션이나 복잡한 소프트웨어 구현, 수일간 지속되는 자율 코딩 작업 등에 특화됐다. 또한 스스로 테스트 코드를 작성해 결과를 검증하고, 비전 기능을 활용해 실제 결과물이 목표 설계와 일치하는지 확인할 수도 있다.
또 최소한의 감독만으로도 복잡한 지식 업무를 수행할 수 있어 기업 활용도가 높다는 게 개발사 측 설명이다. 심층 리서치나 데이터 분석, 보고서 작성, 결과물 제작 등을 지원한다. 이에따라 금융, 법률, 분석, 건축 등 문서 중심 산업에서 활용도가 높다.
무엇보다 사이버보안과 생물학 분야에 대한 강화된 안전장치를 탑재했다고 밝혀 이목을 얻고 있다. 질문이 위험하다고 판단되면 자동으로 오퍼스 4.8 모델로 전환된다. 미토스급 성능을 일반 기업 고객에게 제공하는 모델이지만, 사이버보안·생물학 등 위험 분야에서는 자동으로 오퍼스 4.8로 전환되는 안전장치를 적용했다는 것이다.
페라리를 타고 가는데 과속 방지 구간이 나오면 자동으로 중형차 엔진으로 전환되는 상황으로 예를 들 수 있다. 업계에선 오퍼스 4.8 모델도 이미 상위 버전 AI 모델이라는 점을 들며 안전장치의 실효성에 의문도 제기되고 있다.
반면 실제 사용자들의 증언에 따르면 과도한 제한으로 사용이 불편하다는 불만도 터져나오고 있다. 필터가 지나치게 단순하게 작동된다는 지적이다.
앤트로픽은 "이번 모델 동시 출시는 첨단 AI 역량을 더 많은 사용자에게 빠르고 안전하게 제공하기 위한 과정"이라며 "향후 더 강력한 모델이 등장하는 만큼 안전장치를 지속적으로 개선하고 오탐을 줄여 나가겠다"고 말했다.
