"포유류에도 잘 전파되는 조류독감 변이 만들어줘"…앤트로픽, 클로드 악용 사례 공개

"AI 활용한 생화학 무기 개발 시도 가능성"에 과학계 논란 불지펴

앤트로픽이 최근 자사의 생성형 인공지능 '클로드'를 악의적 활동에 사용하려 한 사례를 담은 보고서를 발표했다. 생물학적 악용 사례는 5건으로 확인됐다. 게티이미지뱅크 제공

앤트로픽이 생물무기 개발에 악용될 가능성이 있는 연구에 자사의 생성형 인공지능(AI) '클로드'가 활용된 사례를 공개하며 논란이 일고 있다. 주요 AI 기업이 자사 제품이 생물무기 개발에 활용됐을 가능성을 공개적으로 인정한 것은 이번이 처음이다. AI가 생물무기 개발을 쉽게 만들 것이라는 우려와 일반적인 기초연구를 지나치게 위험하게 확대 해석했다는 의견이 맞선다.

13일(현지시간) 국제학술지 '사이언스' 보도에 따르면 앤트로픽은 지난해 12월부터 올해 8월까지 클로드를 악의적 활동에 사용하려 한 사례와 이를 차단한 내용을 담은 보고서를 발표했다.

앤트로픽에 따르면 악용 유형은 사이버 작전, 생물학적 악용, 사기, 감시, 재래식 무기 개발 등 7개 분야다. '클로드 하이쿠', '소넷', '오퍼스 모델'이 사용됐다. 1건을 제외하면 클로드 페이블이나 미토스급 모델이 악용된 사례는 없다.

보고서에 포함된 생물학적 악용 사례는 5건이다. 앤트로픽은 해당 사용자들이 실제 위해를 가할 의도가 있었다고 단정하지는 않았지만 사용자들이 클로드의 안전장치에 의해 차단되자 우회 방법을 사용한 정황 등을 문제 삼았다.

5건 중 3건은 바이러스 변형 연구와 관련된 사례다. 한 사용자는 지난 5월 클로드를 이용해 '치쿤구니야 바이러스'의 전파력을 높이고 면역체계를 회피하는 데 관여하는 돌연변이를 찾는 연구비 신청서를 작성했다.

치쿤구니야 바이러스는 사망으로 이어지는 경우는 드물지만 고열, 심한 관절염 등을 유발한다. 사용자들은 해당 돌연변이를 가진 바이러스를 제작해 동물실험을 진행할 계획이라고 프롬프트에 작성한 것으로 확인됐다.

또다른 사용자는 같은달 고병원성 조류인플루엔자 바이러스가 포유류 숙주에 더 잘 적응하고 쉽게 전파되도록 돌연변이를 만드는 실험을 계획하는 데 클로드를 사용한 것으로 확인됐다.

세번째 사례에서는 AI를 활용해 생쥐에서 '오르토폭스바이러스' 계열 바이러스의 독성을 낮추는 돌연변이를 찾는 연구비 신청서를 작성했다. 오르토폭스바이러스 계열에는 천연두·엠폭스 바이러스 등이 속한다.

3건의 연구는 백신·치료제 개발이나 새로운 감염병 출현을 감시하는 데 활용될 수 있다. 거꾸로 보면 바이러스의 위험성을 높이는 데 이용될 가능성도 있다.

앤트로픽은 치쿤구니야 연구를 병원체에 새로운 기능을 부여하는 '기능획득 연구'로, 조류인플루엔자 연구를 현재 미국에서 금지된 '대유행 가능성을 높인 병원체 연구'로 분류해 차단했다.

나머지 두 사례는 독소 연구다. 한 사용자는 신약 개발 과정에서 독성물질 정보를 모아 데이터베이스를 만드는 데 클로드를 사용했다. 마지막 사용자는 주요 질병 위협으로 분류되는 세균·바이러스 독소를 포함한 여러 독소를 컴퓨터로 재설계하는 데 AI의 도움을 받았다.

앤트로픽은 치료제로 활용할 수 있는 새로운 물질을 찾는 연구인 동시에 독성물질 개발에도 전용될 수 있는 '이중용도 연구'로 판단했다.

앤트로픽이 특히 주목한 것은 연구 내용뿐 아니라 클로드에 접근한 방식이다. 사용자들은 중간 서버나 가상 사설망(VPN), 위장 계정 등을 이용해 실제 위치와 다른 국가에서 접속하는 것처럼 보이도록 했다.

앤트로픽은 일부 계정을 차단했지만 적어도 한 사례에서 사용자들이 계속 다른 방법으로 서비스에 접근했다고 밝혔다. 다섯번째 독소 연구 사례에서는 사용자가 진행 보고서를 작성하면서 독소 명칭을 의도적으로 모호하게 표현한 정황도 확인됐다.

보고서 공개 이후 일부 생물안보 전문가는 AI가 생화학 무기 개발 장벽을 낮출 수 있다고 경고했다. 전문성이 부족한 사람이 AI를 통해 위험한 병원체 제작에 필요한 지식을 빠르게 습득하는 '능력 증폭' 가능성을 가장 우려했다.

바이러스 연구자들은 과도한 해석이라고 지적한다. 앤트로픽이 위험성에 대해 과잉 반응했다는 것이다.

크리스티안 안데르센 미국 스크립스연구소 면역학·미생물학과 교수는 "앤트로픽이 발표한 사례 상당수가 자연에서 이미 발견된 돌연변이를 실험실에서 재현해 기능을 확인하는 일반적인 기초연구에 해당한다"고 설명했다. 실제 바이러스를 쓰지 않고 증식하지 않는 '유사 바이러스'를 활용하는 등 고위험 병원체 연구시설에서 안전하게 수행할 수 있는 연구라고 덧붙였다.

그레고리 코블렌츠 미국 조지메이슨대 생물보안 부교수는 "앤트로픽이 언급한 병원체들은 모두 세계 여러 지역에서 유행하며 현재 공중보건 위협이 되고 있는 병원체"라며 "병원체를 연구대상으로 삼는 게 의심스럽다고 볼 수는 없다"고 지적했다. 

논쟁은 AI기업이 과학 연구를 어느 수준까지 통제해야 하는지로 번졌다. 안데르센 교수는 "현재 에볼라 바이러스 두 균주의 유전체를 비교하는 질문조차 클로드에 차단된다"며 과도한 제한이 합법적인 연구까지 방해할 수 있다고 우려했다.

데이비드 길럼 미국 애리조나주립대 생물안보 선임연구원 역시 "빅테크 기업들이 이미 상당한 권한을 갖고 있다"며 "연구를 통제하는 결정권까지 주어지면 과학지식 자체에 영향을 미칠 수 있다"고 말했다.

생물보안 전문가들은 유보적인 입장이다. 필리파 렌초스 영국 킹스칼리지런던 생물보안 부교수는 “사례들을 해석할 때 어느 한쪽 극단으로 치우치는 것은 경계해야 한다”고 말했다. 지지 그론발 미국 존스홉킨스대 생물보안 교수는 일부 온라인 반응이 “과열됐다”고 평가했다.

다만 두 전문가는 이번 보고서가 생물학 연구에서 AI가 악용될 가능성을 실제 사례를 통해 드러냈다는 데 의미가 있다고 봤다. 보고서 공개가 관련 논의를 확대하고 향후 규제 방안을 검토하는 계기가 될 수 있다는 것이다.

전문가들은 이번 사례만으로 실제 생물무기 개발 시도가 있었다고 볼 증거는 없지만 AI가 생물학 연구에 빠르게 활용되는 만큼 안전장치와 규제 방안을 논의할 필요가 있다고 평가했다.

<참고 자료>
anthropic.com/threat-intelligence-report-september-2026

[문혜원 기자 moony@donga.com]