앤스로픽 CEO “中 AI 추격 전 취약점 막아야”

‘미토스’가 수만건 보안 결함 발견
“6~12개월이 사이버 위험 분수령”
JP모건과 손잡고 금융 AI 시장 공세
은행·백오피스용 AI 에이전트 10종 공개

다리오 아모데이 앤스로픽 CEO [그림=챗GPT]

다리오 아모데이 앤스로픽 최고경영자(CEO)가 “인공지능(AI)이 찾아낸 대규모 소프트웨어 취약점이 사이버 공격으로 이어질 수 있다”며 “앞으로 6~12개월이 위험한 전환점이 될 수 있다”고 경고했다. 중국 AI 기업들이 유사한 수준의 기술력에 도달하기 전에 정부와 기업들이 취약점을 서둘러 보완해야 한다는 주장이다.

아모데이 CEO는 5일(현지시간) 미국 뉴욕에서 열린 앤스로픽 금융 서비스 행사에서 “AI가 만들어낼 가장 큰 위험은 엄청난 규모의 취약점 증가와 해킹 피해 확대”라며 “학교와 병원, 은행까지 랜섬웨어 공격 피해가 커질 수 있다”고 말했다. 이날 행사에는 제이미 다이먼 JP모건 CEO도 함께 무대에 올랐다.

이번 발언은 앤스로픽이 지난달 공개한 최신 AI 모델 ‘미토스’와 관련돼 있다. 앤스로픽은 당시 미토스가 수십 년 동안 발견되지 않았던 핵심 소프트웨어 취약점을 대거 찾아냈다고 밝힌 바 있다. 이날 아모데이 CEO는 “중국 AI 모델이 현재 앤스로픽 수준에 도달하기까지 6~12개월 정도 남아 있다고 본다”며 “그 전에 취약점을 수정할 시간이 사실상 그 정도밖에 남지 않았다”고 말했다.

앤스로픽에 따르면 미토스는 기존 AI 모델보다 훨씬 많은 보안 결함을 발견하고 있다. 초기 클로드 모델은 웹브라우저 파이어폭스에서 20여 개 취약점을 찾아냈지만 미토스는 거의 300개를 발견했다. 현재 전체 소프트웨어에서 발견된 취약점 수는 수만 건에 이른다는 설명이다.

앤스로픽은 대부분의 취약점을 아직 공개하지 않고 있다. 패치가 완료되지 않은 상태에서 정보가 공개될 경우 범죄조직이나 적대 국가가 이를 악용할 수 있다는 우려 때문이다. 아모데이는 “나쁜 행위자들이 즉시 이를 악용할 것”이라고 말했다.

다만 그는 AI 기술 발전 자체를 비관적으로 보지는 않는다고 강조했다. 아모데이 CEO는 “지금은 위험한 순간이지만 제대로 대응한다면 이후에는 더 나은 세상이 올 수 있다”며 “버그는 무한정 존재하는 것이 아니라 결국 찾아내고 고칠 수 있다”고 말했다. 다이먼 CEO 역시 AI 기반 사이버 위협을 “일시적 과도기적 현상”이라고 평가했다.

AI 규제 방향에 대한 언급도 나왔다. 아모데이 CEO는 자동차 산업 규제 모델과 비슷한 접근이 필요하다고 주장했다. 그는 “브레이크가 없는 자동차 회사를 그냥 시작할 수는 없다”며 “산업 경쟁력을 유지하면서도 가장 위험한 영역에는 안전장치를 두는 방식이 필요하다”고 말했다.

이날 앤스로픽은 투자은행 업무와 백오피스 자동화를 위한 AI 에이전트 10종도 공개했다. 마이크로소프트 오피스 프로그램 전반과 연동 기능도 추가했다. 회사 측은 최신 공개 모델인 ‘클로드 오퍼스 4.7’이 금융 분석 분야 벤치마크에서 최고 수준의 성능을 기록했다고 설명했다.

[실리콘밸리 원호섭 특파원]