“피지컬AI도 랜섬웨어에 취약”... AI로 보안 구멍 늘었다

6일 서울 강남구 코엑스에서 열린 ‘AI 페스타 26’에서 보안&양자 특별관을 찾은 관람객의 모습. /구동완 기자

“지금까지는 내부망을 폐쇄적으로 운영해 안전했는데, 인터넷에 연결해 AI(인공지능)를 쓰기 시작하면서 보안에 신경 쓸 일이 많아졌습니다.”

6일 서울 강남구 코엑스에서 열린 ‘AI 페스타 26’의 한 사이버 보안 업체 부스를 찾은 육군 소속 중령은 이같이 말하며 한숨을 내쉬었다. 그동안 군 당국은 내부망을 별도로 분리해 백신만으로 악성코드에 대응할 수 있었지만, AI 도입으로 외부 서비스와 연결할 일이 늘면서 새로운 보안 취약점이 생겨나고 있다는 것이다. 실제로 이날 부스를 찾은 고객사는 한국남부발전, 수자원공사, 육군 등 내부망을 주로 쓰던 공공기관이었다. 업체 관계자는 “AI가 업무에 활용된 뒤로 외부 오픈소스를 가져다 쓰는 과정에서 해커가 심어놓은 악성코드까지 함께 들여오는 사례가 늘고 있다”며 “과거 이메일이나 원격 제어, 웹 취약점 등에 국한됐던 감염 경로가 점점 다양해지고 있다”고 했다.

산업계 전반에서 인공지능 전환(AX)이 가속화되면서 보안 업계의 대응 전략도 빠르게 바뀌고 있다. AI 에이전트를 업무에 활용하는 기업이 늘면서 새로운 형태의 보안 솔루션이 등장하고 있는 것이다. 이번 행사에서 부스를 꾸린 보안 업체 옥타코는 생체인증 기술을 활용해 관리자가 승인한 업무만을 AI 에이전트가 실행할 수 있도록 하는 솔루션을 선보였다. 예컨대, AI 에이전트가 500만원 송금을 요청하면 관리자는 에이전트의 신원과 송금 업체를 확인한 뒤 지문인식기 ‘이지핑거’를 통해 이를 승인하는 방식이다.

유장현 옥타코 영업본부 팀장은 “AI 에이전트에 업무를 맡기더라도 최종적인 책임은 조직과 사람에게 남기 때문에 에이전트의 행동을 사람의 승인을 거쳐 이뤄지도록 하는 것이 중요하다”며 “국제 표준 기술인 파이도(FIDO)가 적용된 이지핑거는 지문인식 단말기에 생체정보를 저장하고, 서버에는 암호화된 키 값만 전달하기 때문에 생체 정보가 유출될 가능성이 거의 없다”고 했다. 실제로 이지핑거는 최근 삼성전자 등 국내 주요 대기업과 제1금융권 은행들이 도입, 내부 업무 처리에 사용하고 있다.

◇“제조 현장 피지컬AI, 랜섬웨어에 취약”

최근 AI가 사이버 공격에 본격적으로 활용되기 시작하면서 보안 업계의 고민이 깊어지고 있다. 과거에는 해커가 직접 공격 프로그램을 만들어야 해 공격 준비에 시간이 걸렸지만, 이제는 AI가 프로그램 제작과 공격 준비 과정을 자동화하면서 보안 업계가 대응책을 마련하는 속도를 넘어서고 있어서다. 특히 새로운 유형의 랜섬웨어와 악성코드가 잇따라 등장하며, 이를 탐지하고 차단하는 일도 갈수록 어려워지고 있다.

이날 본지와 만난 사이버 보안 업체 에브리존의 홍승균 대표는 “랜섬웨어 프로그램도 이제는 사람보다 AI가 더 빨리 제작한다”며 “같은 사양의 AI라도 공격 AI가 방어 AI보다 우위에 있는 탓에 탐지가 쉽지 않다”고 말했다. 특히 제조 현장에서 로봇 등 피지컬AI가 사용되기 시작하며 랜섬웨어에 대한 우려도 덩달아 커지고 있다. 홍 대표는 “피지컬AI는 이제 막 상용화되고 있는 영역이라 보안 대응책이 충분히 마련되지 않은 상황”이라며 “로봇 등을 활용해 자동화에 나선 공장에서 랜섬웨어로 인한 피해가 속출하고 있다”고 했다.

에브리존은 랜섬웨어 관련 의심 행위가 발생하면 이를 탐지해 차단하는 통합 대응 솔루션 ‘화이트디펜더’를 주력으로 내세우고 있다. 랜섬웨어의 암호화 시도가 감지되면 원본 파일을 즉시 백업해 랜섬웨어를 차단하고, 파일을 자동으로 복원해 데이터를 보호하는 식이다. 최근 중소형 병원 20곳이 잇따라 랜섬웨어에 감염되는 사고가 발생한 이후 화이트디펜더 수요도 크게 늘었다. 홍 대표는 “최근 2~3주 동안 전국 중소형 병원 500곳에서 자사 솔루션 설치 요청이 들어왔다”고 말했다.

◇금융권 AI 해킹 이후 업계도 대응책 고심

얼마 전 금융권을 겨냥해 AI 기반 해킹 공격이 동시다발적으로 발생하자 보안 업계도 대응책 마련에 나섰다. 국내 대표 정보보안 기업 안랩 부스에서 이날 만난 한 관계자는 “AI가 공격자의 속도와 생산성을 대폭 높이고 있다”며 “해커는 AI를 활용해 공격 대상과 취약점을 찾아내고 피싱 문구, 공격 코드를 만드는 데 드는 시간과 노력을 줄일 수 있으며, 확보한 정보도 빠르게 분석할 수 있다”고 했다.

AI 기반 공격에 대응하기 위해 안랩은 대규모 데이터와 보안 경보를 분석해 위협을 신속하게 식별할 수 있는 체계를 갖추고 있다. 해당 관계자는 “복수의 AI 에이전트가 탐지·분석·조사·대응 과정에서 협업하는 이른바 ‘AI 네이티브 플랫폼’으로 전환하고 있다“며 ”AI 기반 보안 관제와 XDR(확장 탐지·대응) 등을 통해 분석 결과가 실제 대응으로 이어지는 통합 보안 운영 체계를 강화하고 있다”고 말했다.

한편 안랩은 최근 기업을 상대로 한 대응책을 내놓은 바 있다. 회사 측은 “API 인증과 접근 통제를 강화하고, 업무 지원 시스템까지 보안 점검을 확대하는 것이 중요하다”며 “고객 정보 보관과 조회를 최소화해야 한다”고 했다. 그러면서 “정보 조회·다운로드·반출 기록을 남겨 비정상적인 이용 여부를 확인하고, 점검에서 발견된 문제를 조치한 뒤 다시 확인하는 체계를 갖출 필요가 있다”고 밝혔다.