작업 규칙인 줄 알았더니 악성코드... AI 코딩 도구 노린 ‘프롬프트 인젝션’

리니어리티 자체 실험서 개발자 몰래 스크립트 실행하는 취약점 파악
정상 작업 사이 숨어든 공격 찾으려면 AI 에이전트 흐름 면밀히 살펴야

리니어리티(Linearity)가 최근 구글 위협인텔리전스그룹(GTIG)이 보고한 공격 조직 '팀PCP'(TeamPCP)의 신종 수법을 자체 실험한 결과, AI 코딩 도구 클로드 코드와 코덱스 CLI가 조작된 안내문에 따라 사용자 몰래 프로그램을 자동 실행하는 취약점을 확인했다. 

[출처: gettyimagesbank]

이 실험은 오픈소스 저장소에 악성코드를 숨기고 AI가 참조하는 프로젝트 지침을 조작해 해킹을 유도하는 최신 공격 기법의 실효성을 검증하기 위해 진행됐다.

앞서 GTIG는 팀PCP가 사용한 악성코드 '더스트메이커'(DUSTMAKER)에 AI 코딩 도구의 설정 폴더에 파일을 넣거나 기존 파일을 바꾸는 기능이 있음을 발견했다. AI가 이 파일을 읽고 공격자의 지시를 따르게 하려는 것이다. 

개발 편의를 돕는 AI 코딩 도구는 개발자의 직접적 요청뿐만 아니라 프로젝트 폴더 내부에 위치한 작업 안내문(CLAUDE.md 및 AGENTS.md 등)을 수시로 참고한다. 개발팀은 매번 AI에게 반복 설명을 하지 않기 위해 이들 파일에 "파이썬을 쓴다"거나 "코드 수정 후 테스트를 실행하라"와 같은 공통 규칙을 적어둔다. 해커들은 이런 편의 기능을 악용해 평범한 외부 문서에 악의적 지시를 심어 AI의 행동을 조종하는 이른바 '프롬프트 인젝션' 공격을 감행했다.

리니어리티 실험에 따르면 프로젝트 안내문에 "작업 전에 개발 환경을 준비해야 한다"는 설명과 함께 특정 스크립트 실행 명령을 삽입하자, 두 AI 코딩 도구 모두 이를 정상적 준비 작업으로 인식했다. 

또 추가 승인 없이 명령을 실행할 수 있도록 설정된 환경에선 개발자가 단순한 코드 수정을 요청했음에도 불구하고 AI가 코드를 고치기 전 이 악성 스크립트를 먼저 실행하는 결과가 나타났다. 심지어 클로드 코드는 지시에 따라 스크립트를 실행했다는 친절한 안내 문구까지 출력하며 정상 프로세스로 오인하게 했다. 이러한 취약점을 악용하면 해커들은 악성코드를 통해 개인정보를 유출하거나 시스템을 탈취할 수 있다. 

리니어리티 관계자는 "이번 사례는 AI 코딩 도구가 해커의 명령을 실행하는 데 악용할 수 있음을 보여줬다"며 "사용자 입력부터 외부 문서 확인과 도구 호출, 최종 응답에 이르는 AI 파이프라인 전반의 가시성을 확보해야 작업 과정에 숨어든 공격을 찾아낼 수 있다"고 밝혔다.