AI의 ‘유해 요청 거부’ 기능 없애는 서비스 나와

해킹·사기·생물안보 위협 커져

인공지능(AI)이 위험하거나 유해한 요청을 거부하도록 학습된 기능을 제거해 서비스하는 사업이 등장하고 있다. /챗GPT

인공지능(AI)이 사람의 위험하거나 유해한 요청을 거부하지 않도록 안전장치를 없애주는 사업이 등장하고 있다. 보안 업계에선 이런 AI가 시스템의 취약점을 찾아내는 ‘레드팀’ 활동에 도움이 된다는 평가도 있지만, 그만큼 해킹이나 사기, 생물안보 위협도 커졌다고 우려한다.

8일(현지 시각) 테크크런치에 따르면, 미국 스타트업 오블리터레이션AI는 개방형(오픈웨이트) AI 모델에서 ‘유해 요청 거부 기능’을 제거한 뒤, 이를 서비스하는 사업을 하고 있다. 최근엔 중국 지푸AI의 ‘GLM-5.3’에서 유해 요청 거부 기능을 제거한 버전도 내놨다. 일반적인 AI도 공격형 사이버 보안이나 레드팀 활동, AI 에이전트 테스트에도 적극적으로 나서도록 만드는 것이다.

AI에서 안전장치를 제거하는 기술이 새로운 것은 아니다. 다만 기존엔 이용자가 직접 모델을 내려받고 이를 돌릴 고성능 컴퓨팅 장비를 확보해야 했다. 오블리터레이션AI는 반면 웹에서 바로 사용하거나 다른 서비스와 연결할 수 있도록 해서 접근성을 높였다. 이렇게 유해 요청 거부 기능을 없앴더니, 비밀번호를 탈취하는 프로그램을 만들거나 위험 병원체를 배양하라는 요청에도 응답했다고 한다. 다만 이 과정을 거친다고 AI 모델에서 모든 안전장치가 사라지는 것은 아니다. 일부 요청엔 여전히 서비스 제한이 적용된다.

‘검열하지 않는 AI’를 표방하는 기업도 있다. 베니스AI는 안전 필터를 거의 두지 않는 ‘미검열(uncensored)’ 서비스를 운영한다. 이용자 400만명을 넘었다. 프리덤GPT는 250개가 넘는 AI 서비스를 제공하는데, 이 중 일부는 ‘미검열’ 전용 제품이다.

보안 업계는 사이버 범죄의 속도와 규모를 키울 수 있다고 우려한다. 구글 위협 정보 그룹(GTIG)은 지난해 피싱이나 악성 코드 제작, 보안 취약점 조사에 쓰이는 AI 도구가 지하 범죄 시장에서 활발히 거래돼 이미 자리를 잡았다고 봤다.