오픈AI, ‘아틀라스’ AI브라우저 외부 악의적 명령에 취약 경고

오픈AI가 자사 인공지능(AI) 브라우저 '챗GPT 아틀라스(Atlas)'가 외부에 숨겨진 악의적 명령, 이른바 '프롬프트 인젝션'(prompt injection) 공격에 구조적으로 취약할 수밖에 없다는 점을 인정했다.

AI가 웹을 자율적으로 탐색·실행하는 시대가 본격화되는 가운데 보안 한계 역시 피할 수 없는 과제로 부상하고 있다.

미국 정보기술(IT)매체 테크크런치는 22일(현지시간) 오픈AI가 최근 블로그를 통해 "프롬프트 인젝션은 웹상의 사기나 사회공학처럼 완전히 해결되기 어려운 문제"라고 밝히며, 아틀라스 보안 강화에도 불구하고 근본적 방어에는 한계가 있음을 시사했다고 보도했다.

오픈AI는 특히 아틀라스의 '에이전트 모드'가 웹과 이메일, 문서 등 외부 환경과 직접 상호작용하면서 "보안 위협 외연을 확장한다"고 스스로 평가했다.

오픈AI는 지난 10월 아틀라스를 출시했으며, 이후 보안 연구자들은 구글 문서에 몇 단어를 삽입하는 것만으로 AI 브라우저의 행동을 바꿀 수 있다는 시연을 공개한 바 있다.

같은 날 웹브라우저 보안기업 '브레이브'(Brave)는 간접 프롬프트 인젝션이 퍼플렉시티의 AI 브라우저 '코밋'(Comet)을 포함해 AI 기반 브라우저 전반에 걸친 체계적 도전 과제라고 지적했다. 이는 특정 기업이나 제품의 문제가 아니라, AI 에이전트 브라우저라는 개념 자체가 안고 있는 구조적 위험임을 보여준다.

이 같은 우려는 정부 기관으로도 확산하고 있다. 영국 국가사이버보안센터(NCSC)는 이달 초 생성형 AI 애플리케이션에 대한 프롬프트 인젝션 공격이 "완전히 퇴치되지 않을 수 있다"고 경고하며, 데이터 유출 위험이 커질 수 있다고 밝혔다. NCSC는 공격을 완전히 차단할 수 있다는 전제보다, 공격의 위험과 피해를 최소화하는 방향으로 대응 전략을 세워야 한다고 조언했다.

오픈AI는 이를 장기적 AI 보안 과제로 규정했다.

일단 대규모 테스트와 빠른 패치 주기를 통해 방어력을 높이는 것 외에 아직은 묘안이 없다는 것이다.

특히 강화학습으로 훈련된 'LLM 기반 자동화 공격자'를 활용해, 실제 해커보다 빠르게 취약점을 찾아내는 내부 시뮬레이션 전략을 도입하고 있다고 밝혔다.

이 과정에서 인간 레드팀이나 외부 보고로는 드러나지 않았던 새로운 공격 패턴도 발견했다고 소개했다.

오픈AI의 고백처럼, 보안 전문가들은 현재까지 제시된 해법이 제한적이라고 지적한다. 사이버보안 기업 위즈(Wiz)의 수석 연구원 라미 맥카시는 프롬프트 인젝션 피해를 줄이기 위한 현실적 대응책으로 △메시지 전송이나 결제 전 '사용자 최종 확인'을 요구하고 △AI 에이전트에 지나치게 포괄적인 권한 대신 구체적인 명령을 부여하는 방법 정도가 제시되고 있을 뿐이라고 설명했다.

오픈AI 역시 아틀라스가 민감한 행동 전 사용자 확인을 받도록 훈련됐으며, "필요한 조치를 취하라"는 식의 광범위한 지시를 피하라고 권고하고 있다. 명령을 구체적으로 하라는 것이다.

그럼에도 테크크런치는 AI 브라우저가 제공하는 편의성과 자동화의 흐름을 되돌리기는 어렵다고 분석했다. 이메일, 결제, 일정 관리까지 수행하는 AI 브라우저는 위험이 크지만, 동시에 그 편리성과 접근성이 존재이유이기도 하다는 것이다.

맥카시는 "현재로서는 위험 대비 가치가 충분하지 않을 수 있지만, 이 균형은 앞으로 진화할 것"이라며 AI 브라우저 시대의 보안 논쟁이 장기 과제가 될 것임을 예고했다.

이규화 대기자 david@dt.co.kr

오픈AI가 공개한 웹브라우저 검색창. 오픈AI 제공