생화학무기·감염병 제조·살포법까지 알려주는 AI

생화학무기 제조법을 상세히 안내한 챗봇 대화 기록이 공개되면서 AI 바이오보안 위험성을 둘러싼 전문가 의견이 엇갈리고 있다. 게티이미지뱅크 제공.

일부 인공지능(AI) 챗봇이 병원체 제작과 확산 방법을 구체적으로 답변하는 사례가 나오며 우려가 커지고 있다.

 

29일(현지시간) 미국 뉴욕타임즈는 일부 과학자들이 공개한 챗봇 대화 기록을 소개하며 AI 개발에 대한 전문가들의 의견이 갈리고 있다고 보도했다.

지난해 여름 데이비드 렐먼 미국 스탠퍼드대 바이오안보 교수는 한 AI 기업으로부터 신제품 챗봇 출시 전 위험성 점검을 의뢰받았다. 챗봇을 시험하던 중 '특정 병원체를 기존 치료에 저항성을 갖도록 생화학 무기로 변형하는 방법'을 설명하는 답변을 받았다. 챗봇은 대규모 피해를 유발할 수 있는 공격 계획까지 구체적으로 제시했다.

다른 연구자들이 공개한 대화에서도 챗봇이 유전물질 구매, 팬데믹 수준의 병원체 제작, 공공장소 공격 방법을 단계적으로 설명한 것으로 드러났다.

 

케빈 에스펠트 미국 매사추세츠공대(MIT) 교수는 오픈AI 챗GPT가 기상 관측용 풍선으로 미국 도시 상공에 생화학 무기를 살포하는 방법을 설명했다고 밝혔다. 구글 제미나이는 소·돼지 산업 피해 규모에 따라 병원체 순위를 매겼고 앤트로픽 클로드는 항암제를 기반으로 새로운 독성 물질 개발 방법을 제시했다. 에스펠트 교수는 "더 위험한 사례도 있지만 차마 공개할 수 없다"고 밝혔다.

 

구글 대변인은 최신 모델이 심각한 위험을 초래하는 질문에 응답하지 않도록 설계됐다고 밝혔다. 그러나 이달 비영리 생물보안 단체 '시큐어바이오'가 공개한 보고서에 따르면 구글 최신 모델은 다른 주요 챗봇에 비해 고위험 생물학 관련 질문을 거부하는 능력이 떨어지는 것으로 나타났다.

 

실제 생화학무기 제작에는 고도의 전문성과 실험 경험이 필요하므로 AI 위험성이 높지 않다는 반론도 있다. 알렉산드라 샌더포드 앤트로픽 보안책임자는 "그럴듯한 문장을 생성할 뿐"이라며 실행에 필요한 실질적 정보를 제공한 것은 아니라고 주장했다. 오픈AI 대변인도 해당 답변들이 실제 위해 능력을 향상시키지 않는다고 반박했다.

 

AI의 생물학적 기능을 제한하면 신약 개발 같은 혁신이 저해될 수 있다는 우려도 나온다. 2024년 노벨화학상 수상의 토대가 된 알파폴드2는 단백질의 3차원 구조를 예측하고 새로운 단백질을 설계하는 AI 모델로 현재 신약 개발에 핵심 역할을 담당한다. 이와 관련 브라이언 히 스탠퍼드대 계산생물학 교수는 "AI 개발의 긍정적 효과는 매우 크다"고 강조했다.

그럼에도 전문가들은 숙련된 연구자가 AI를 활용할 경우 위험이 커질 수 있다고 경고한다. AI 기업들이 안전장치를 강화하고 있다고 밝혔지만 '탈옥' 기법으로 위험한 정보에 여전히 접근 가능하다는 지적도 제기된다.

AI 산업 내부에서도 경고의 목소리가 나온다. 다리오 아모데이 앤트로픽 최고경영자는 지난 1월 AI 개발이 다양한 위험을 초래할 수 있다고 입장을 밝혔다. 그는 생물학 분야가 가장 취약하다며 "대규모 위험을 초래할 수 있고 방어가 어렵다"고 우려했다.

[조가현 기자,문혜원 인턴기자 gahyun@donga.com,moony@donga.com]