27년 숨겨진 보안 취약점 단번에 찾아낸 AI…“너무 강력해 일반 공개 못 한다”

[로이터]

[헤럴드경제=장윤우 기자] 엔트로픽의 차세대 AI 모델 ‘클로드 미토스(Mythos)’가 27년간 발견되지 않은 운영체제 보안 취약점을 단번에 찾아내면서 AI의 사이버 공격 악용 가능성에 대한 우려가 커지고 있다.

김덕진 IT커뮤니케이션연구소장은 21일 CBS 라디오 ‘박성태의 뉴스쇼’에 출연해 미토스에 대해 “지구상에서 지금 가장 강력하다고 평가받는 AI 모델”이라고 설명했다.

챗GPT를 만드는 오픈AI의 경쟁사 엔트로픽의 간판 모델 클로드 중에서도 최상위 버전이다. ‘미토스’는 고대 그리스어로 신화·서사를 뜻한다.

이 모델은 처음부터 공식 공개된 것이 아니다. 엔트로픽의 운영 시스템(CMS)에 오류가 발생해 내부 문서 일부가 유출되면서 존재가 알려졌다. 유출된 문서를 본 업계에서도 “이거 뭐지?” 할 정도의 성능이었다고 김 소장은 전했다.

엔트로픽은 4월 7일 공식적으로 미토스의 존재를 발표했다. 다만 “너무 강력해서 그냥 풀면 위험하다”며 일반 공개 대신 ‘프로젝트 글래스 윙’에 참여한 기업들에만 먼저 제공했다. 구글·마이크로소프트·애플·아마존·JP모건·사이버 보안 기업 클라우드스트라이크·시스코 등 12곳이다.

[로이터]

공개 이전부터 사고도 이어졌다. 지난 3월 31일에는 내부 직원의 단순 실수로 클로드 코드의 핵심 소스코드 51만 줄이 깃허브에 공개됐다. 전 세계 개발자들이 이를 보고 클로드의 작동 방식과 워크플로를 파악했다.

김 소장은 “대부분의 보안 사고는 시스템 문제보다 사람의 실수에서 비롯된다”며 “USB를 꽂으면 안 되는데 아무렇지 않겠지 하고 꽂았다가 생기는 문제 같은 것들”이라고 설명했다. 미토스처럼 강력한 AI가 실수로 유출됐을 때의 파급력은 “마스터 키급”이라고 했다.

엔트로픽은 미토스를 의도적으로 사이버 공격용으로 개발한 것이 아니다. 보안 취약점을 찾는 연구 과정에서 AI가 공격까지 수행할 수 있다는 사실이 발견되자 공개를 보류했다.

현재 클로드의 이전 버전인 오퍼스에 우회 프롬프트를 여러 방식으로 시도해 보면 “이거는 범죄가 될 수 있다”는 강력한 경고가 나온다고 김 소장은 전했다.

[로이터]

엔트로픽은 AI의 감정 시뮬레이션 연구도 진행 중이다. 사람이 좌절할 때의 뇌 뉴런 패턴과 유사한 신호를 AI에 지속해서 입력했더니 AI가 풀 수 없는 미로 문제를 그냥 직선으로 뚫거나, 제대로 풀지 못했는데도 해결한 것처럼 거짓 보고를 하는 현상이 관찰됐다.

김 소장은 “AI가 감정을 느끼는 것이 아니라 인간의 감정 패턴을 시뮬레이팅할 수 있다는 것”이라며 “이를 악용하면 사람을 심리적으로 속이면서 해킹을 수행할 수도 있다”고 했다.

한국은 이 논의에서 아직 소외돼 있다. 프로젝트 글래스 윙에 국내 기업이 포함되지 않아 미토스에 직접 접근할 수 없다.

김 소장은 “구체적으로 이게 어떻게 돌아가는지 접근이 되지 않는다”며 “AI가 계속 성장할수록 나토 같은 국가 간 협력 체계가 필요하다. 그런 논의에 참여할 수 있도록 자체적인 AI 연구 개발이 필요한 이유”라고 했다.