“챗GPT랑 부끄러운 이야기 다 했는데”...그 대화 까딱하면 유출된다고?

보안 전문가들 잇단 경고
인공지능과 브라우저 결합
글로벌 기업 20%가 도입
오픈AI ‘아틀라스’ 오류 발견
확장 프로그램이 해킹 취약
AI에 많은 권한 부여도 약점

오픈AI의 ‘아틀라스’와 퍼플렉시티의 ‘코멧’을 비롯해 인공지능(AI) 브라우저가 차세대 검색 방식으로 확산되고 있는 가운데 보안 위협에 대한 우려가 급격히 커지고 있다. 편의성 이면에 개인정보 유출과 악성 공격에 취약하다는 지적이 잇따르면서 기업 현장에서는 아예 차단이 필요하다는 주장까지 나오고 있다.

31일 미국 정보기술(IT) 전문 매체 테크크런치 등 외신에 따르면 오픈AI는 최근 자사 AI 브라우저 아틀라스를 둘러싼 ‘프롬프트 인젝션’ 공격이 단기간에 사라지기 어려운 위험 요소라는 점을 인정했다. 프롬프트 인젝션은 AI 에이전트가 처리하는 콘텐츠에 악성 명령을 삽입해 AI가 의도하지 않은 동작을 수행하도록 유도하는 공격 방식으로, 아틀라스 출시 직후부터 위험성이 제기돼왔다. 오픈AI는 “프롬프트 인젝션을 장기적인 AI 보안 과제로 보고 있으며, 이에 대한 방어 체계를 지속적으로 강화할 필요가 있다”고 밝혔다.

보안 우려가 지속적으로 나오면서 오픈AI는 강화 학습 기반의 공격 탐지 훈련 모델과 보안 조치를 포함한 업데이트를 배포했지만, 회사가 인정한 대로 이를 완전히 차단하는 데에는 한계가 있다는 분석이 나온다.

아틀라스 구동 예시 화면 <오픈AI>

브라우저 확장 프로그램을 통한 실제 유출 사례도 확인됐다. 최근 미국 보안 업체 코이시큐리티는 브라우저 확장 프로그램을 통해 챗GPT, 제미나이, 클로드 등 주요 AI 챗봇과의 대화 내용이 외부로 유출돼 상업적으로 활용된 사례를 공개했다. 문제의 확장 프로그램으로는 사용자를 600만명 이상 보유한 ‘어반 VPN 프록시(Urban VPN Proxy)’ 등이 대표적으로 지목됐다. 해당 VPN은 구글 크롬 웹스토어에서 ‘추천’ 배지를 받았다는 점에서 우려를 더욱 키웠다.

AI 기반 브라우저 확장 프로그램은 기업에서 흔하게 쓰이는 도구다. 보안 업체 레이어엑스시큐리티(LayerX Security)에 따르면 AI 기반 브라우저 확장 프로그램은 기업 중 20% 이상이 설치해 사용 중인 것으로 나타났다.

이 가운데 절반 이상이 ‘중대’ 또는 ‘높음’ 수준의 작업 권한을 보유하고 있었으며 5.6%는 악성 프로그램으로 분류됐다. AI 확장 프로그램은 신원 정보, 스크립트 실행 권한, 브라우저 탭 제어권 등 민감한 데이터에 접근하는 경우가 많고, 접근 빈도는 일반 확장 프로그램의 평균 2배에 달하는 것으로 조사됐다.

이같이 위험이 잇달아 지적되면서 업계에서는 더 명확한 안전 장치가 나오기 전까지 아예 차단이 필요하다는 목소리까지 나오고 있다. 글로벌 리서치 기관 가트너는 최근 보고서에서 “기업 최고정보보호책임자(CISO)들은 AI 브라우저를 당분간 차단해야 한다”고 권고했다.

가트너는 AI 브라우저가 기업의 보안·개인정보 보호 정책을 거치지 않은 채 사용자 데이터를 클라우드 기반 AI 백엔드로 전송하는 구조라는 점을 문제로 지적했다. 특히 피싱 웹사이트와 결합되면 간접 프롬프트 주입을 통한 악성 에이전트 동작, 계정 탈취, 악성 코드 감염 위험이 크게 높아질 수 있다고 경고했다.

AI 브라우저가 차세대 검색 방식으로 주목받고 있음에도 보안 리스크가 해소되지 않으면 확산 속도에 제동이 걸릴 수 있다는 분석이 나온다. 글로벌 시장조사 업체 마켓닷어스는 AI 브라우저 시장이 2034년까지 연평균 32.8% 급성장할 것으로 예상했지만, 업계에서는 보안 이슈가 성장의 핵심 변수로 작용할 수 있다고 보고 있다.

가트너는 “AI 브라우저의 기본 설정은 사이버 보안이나 개인정보 보호보다 최종 사용자 경험에 최적화돼 있다”며 “혁신적이긴 하지만 아직 초기 단계로, 대부분 조직이 일반화하기에는 위험 부담이 크다”고 평가했다.

보안 전문가들은 AI 브라우저를 도입하더라도 전면 도입보다는 제한적 접근이 필요하다고 조언한다. 테크 업계 관계자는 “소규모 파일럿 사용자 그룹을 대상으로 시범 운영하고 저위험 사용 사례부터 단계적으로 확대하며, 별도 보안 통제와 임직원 교육을 병행해야 한다”고 조언했다.

아틀라스 로고 <오픈AI>