[단독]“회사업무 AI, 해킹통로 될라”… 서버 8000여개 외부 인터넷 노출

AI 프로그램이 보안 사각지대 돼
해킹땐 내부문서 -고객정보 유출 우려
악성명령을 정상으로 여길 수도
“사내 AI 도구 운영 지침 마련 필요”

인공지능(AI)이 이메일을 확인하고 고객 정보를 조회하는 등 회사 업무를 대신하면서 새로운 보안 사각지대가 생기고 있다. AI와 업무 시스템을 연결하는 프로그램 하나만 해킹당해도 내부 문서와 고객 정보까지 유출될 수 있는 것이다. 국내에서 외부 인터넷에 노출된 AI 관련 내부 시스템이 8000여 개에 이르는 것으로 확인되며 AI발 보안 우려가 더욱 커지고 있다.

● 국내 AI 시스템 중 8030개 인터넷 노출

10일 미국 사이버보안 기업 센시스(Censys)에 따르면 올해 6∼8월 국내에서 AI 관련 프로그램이 설치된 서버 등 8030개 시스템이 외부 인터넷에 노출된 것으로 확인됐다. 기업이나 공공기관 등 운영 주체와 관계없이 국내 인터넷 주소(IP주소)를 기준으로 집계한 수치다. 센시스는 미국 정부 기관 등에 인터넷 보안 정보를 제공하는 글로벌 기업이다.

외부 인터넷에 노출됐다는 것은 누구나 해당 시스템에 접속을 시도할 수 있다는 뜻이다. 이번 조사에서는 업무 자동화 프로그램과 AI 비서 등 여러 종류의 시스템이 발견됐다. 이메일 발송 등을 자동화하는 프로그램 ‘엔에이트엔(n8n)’은 1161개가 외부에 노출됐고, 이 중 약 76%인 880개에서 보안 취약점 신호가 포착됐다. AI를 다른 프로그램과 연결하는 기술인 ‘모델 콘텍스트 프로토콜(MCP)’ 관련 시스템 2435개와 AI 비서 ‘오픈클로(OpenClaw)’ 727개도 외부에서 탐지됐으며 각각 12개와 161개에서 취약점 신호가 확인됐다.

인터넷 노출 자체가 해킹을 의미하지는 않지만, 취약한 시스템이 공격 대상이 될 수 있다. 하성현 엔큐리티 기술팀 담당자는 “이번 결과는 보안상 충분히 우려할 만한 수준”이라고 말했다. 임준오 티오리한국 AI·사이버리서치팀 총괄은 “보안 관리가 체계적으로 이루어지지 않은 업무 자동화 시스템들이 외부에 다수 노출되어 있을 가능성이 있다”고 지적했다.

문제는 AI 업무 프로그램에 여러 시스템의 ‘열쇠’가 모일 수 있다는 점이다. 기업이 주문 확인과 안내 메일 발송을 AI에 맡길 경우 고객 정보 및 이메일 접근 권한도 줘야 한다. 해커가 저장된 접속 정보를 훔치면 고객 정보를 빼내거나 회사 이름으로 가짜 메일을 보낼 수 있다는 얘기다. 박찬암 스틸리언 대표는 “여러 업무 계정과 권한이 연결된 자동화 시스템은 한 곳을 침해해서 다양한 정보에 접근할 수 있다”고 했다.

센시스에 따르면 외부 인터넷에 노출된 전 세계 AI 관련 시스템은 9개월 동안 63% 증가했다. 보안 사고도 늘고 있다. 최근 구글은 해커가 기업의 AI 접속 권한을 훔쳐 서비스를 무단 사용해 하루 10만 달러 넘는 이용료를 발생시킨 사례를 공개했다. 앤스로픽에서는 국내 기업용 AI 계정 약 100개의 정보가 노출돼 개인정보보호위원회에 신고됐다.

● 직원이 설치한 AI, 회사는 알고 있나

직원이 회사 시스템에 연결한 AI 프로그램을 보안 담당자가 모를 수 있는 점도 우려 요인으로 꼽힌다. 이른바 ‘섀도 AI(Shadow AI)’ 문제다. 이명수 안랩 A-퍼스트 팀장은 “AI 도구는 설치가 쉬워 보안 심의 없이 현업에서 먼저 도입되는 경우가 많다”고 말했다. AI가 이메일이나 문서에 숨겨진 악성 지시를 정상 명령으로 받아들여 내부 자료를 유출할 위험도 있다.

전문가들은 기업이 사용하는 AI 프로그램과 연결된 업무 시스템부터 파악해야 한다고 조언한다. 정상적인 회사 계정으로도 정보가 유출될 수 있어 대량 조회와 외부 전송을 감시하고, 결제 등 중요 업무는 사람의 승인을 거쳐야 한다. 하영빈 에버스핀 대표는 “정상적인 프로그램이 정상적인 권한으로 수행하는 작업이라도 그 행위가 반드시 정상적인 업무 목적에 부합하는 것은 아니다”라고 설명했다. 김동욱 엔큐리티 대표는 “정부가 AI 자동화 프로그램의 안전한 도입과 운영을 위한 실무 지침을 마련하고 인터넷에 노출된 조직에 관련 정보를 통보해 개선을 도와야 한다”고 말했다.

전혜진 기자 sunrise@donga.com