앤스로픽, AI 악용 시도 차단..."생화학 무기 연구·사이버 공격 방어"

로이터연합뉴스

[파이낸셜뉴스] 인공지능(AI) 스타트업 앤스로픽이 자사의 AI 모델을 사이버 공격, 감시, 생화학 무기 개발 가능성이 있는 연구 등 악의적 목적으로 이용하려 한 시도들을 차단했다고 11일(현지시간) 밝혔다.

미국 언론들은 앤스로픽이 2025년 3월 이후 세 번째로 발간한 AI 악용 사례 보고서에서 시스템은 치쿤구니야 바이러스의 전염성과 면역 회피 능력을 강화하는 '기능 획득' 연구와 관련된 연구비 지원 신청서 작성 요청을 차단한 사실을 밝혔다고 보도했다.

AI 모델의 성능이 한층 급격히 발전함에 따라, 과거 정교한 기술이 필요했던 사이버 공격이나 위험 활동을 단 한 명의 개인이 수행할 수 있을 정도로 위협 환경이 변화하고 있다는 지적이 나오고 있다.

치쿤구니야는 모기를 통해 전파되어 극심한 통증과 고열을 유발하는 바이러스다. 앤스로픽 측은 "해당 연구가 백신 개발에 활용될 수도 있지만, 병원체를 더욱 위험하게 만드는 생화학 무기로 악용될 위험도 높다"고 설명했다.

이 외에도 러시아, 이란, 튀르키예 등 국가 주도 세력이 생성형 AI를 활용해 가짜 소셜미디어 계정 수백 개를 생성하고 특정 정치적 견해를 확산시키려 한 정황 9건도 포착되어 사전에 차단됐다.

앤스로픽은 최근 출시된 '클로드 페이블 5' 등 최신 모델에 군사와 민간 겸용 이중 용도 생물학 연구 관련 질의를 제한하는 강화된 안전장치를 적용했다. 이전 모델인 '클로드 오퍼스 4'나 '클로드 소넷 4.5'보다 향상된 지능을 갖춘 최신 AI일수록 위험 요소가 급증하기 때문이다.

이번 보고서 발표는 올가을 기업공개(IPO)를 앞둔 앤스로픽의 한 연구원이 사직서를 제출한 지 이틀 만에 이뤄졌다. 제어컵 콕슨 연구원은 사직서를 내면서 "앤스로픽과 경쟁사인 오픈AI가 안전성 확보 없이 초지능 AI 개발 경쟁에만 몰두하고 있다"며 위험성을 경고했다.

앤스로픽은 "AI 모델이 강력해질수록 위험도 함께 커진다"며 "악용 사례 정보를 정부 및 타 기술 기업들과 공유해 공동의 방어 체계를 강화하겠다"고 밝혔다.

jjyoon@fnnews.com 윤재준 기자