사람 손으론 못 막는다…보안 업계 "해킹 방어에도 AI 도입해야"

금융권 연쇄 해킹 사태 관련 보안 업계 반응

국내 기업 AI 해킹 대응책/그래픽=김현정

최근 AI 해킹 공격에 국내 금융기관 7곳이 속수무책으로 당했다. 획기적인 새 해킹 기법 없이, AI를 활용해 기존 해킹 공격을 빠르게 대규모로 수행했다는 것이 특징이다. 무차별적으로 진행되는 AI의 공격을 사람이 막긴 어렵다. 보안업계는 AI 해킹을 AI로 방어해야 하고, 독자 AI 모델이 없다면 일단 오픈소스 모델을 통해서 방어체계를 구축할 필요성이 있다고 목소리를 높인다.

5일 금융당국에 따르면 이번 금융기관 해킹은 데이터베이스(DB)를 직접 탈취하는 대신 웹페이지·서버에서 고객 정보를 대량으로 조회해 긁어가는 수법이 쓰였다. 수법이 빠르고 반복적이라는 점에서 AI 도구가 활용된 것으로 추정된다.

공격 IP(인터넷프로토콜)에서는 중국어권 개발자가 오픈소스로 공개한 AI 침투 테스트 도구 '아르텍스(ARTEX)'의 흔적이 포착됐다. 취약점 점검에 활용하기 위한 AI 도구가 해킹에 악용된 셈이다. 아르텍스는 대형언어모델(LLM)을 활용해 취약점을 탐색·분석하고 필요한 도구를 호출해 취약점을 검증한다.

보안업계는 자동화된 AI의 해킹 공격에 대비하기 위해 방어에도 AI를 도입해야 한다고 주장한다. AI를 통해 공격 데이터를 빠르게 분석하고 서로 다른 이벤트의 연관 관계를 파악해야 한다는 것이다. 강석균 안랩 대표는 최근 기자 간담회에서 "AI 사이버 공격은 생산성과 속도, 규모 관점에서 사람이 판단하고 대응할 수 있는 수준을 벗어났다"며 해킹 방어용 AI 기술 투자의 필요성을 설명했다.

정부도 AI 해킹 위험 대비책을 마련하고 있다. 최근 '보안 특화 AI 파운데이션 모델' 사업에 네이버클라우드 컨소시엄을 선정해 독자 AI를 통한 해킹 방어 노선을 구축하고 있다. 또 국가·기관 단위의 AI 사이버 쉴드 돔 프로젝트도 내년부터 5년간 진행한다.

다만 방어용 국산 AI 모델 개발까지는 일정 시간이 소요된다. 이에 공개된 오픈소스 모델을 활용해 당장 대응해야 한다는 지적이 나온다. 최대선 숭실대 AI안전성연구센터장은 "현재 공개된 AI 모델에 에이전트를 결합하는 것만으로도 강력한 공격 역량을 갖출 수 있다"며 "장기적으로는 독자 AI를 활용해도, 당장 AI 위협에 대응하려면 기존 AI를 응용해야 한다"고 말했다. 그러면서 '오퍼스 4.6'에 다중 에이전트·분석 도구 등을 얹은 결과 취약점 발굴 벤치마크 평가(사이버짐) 점수가 66.6점에서 91점으로 대폭 높아졌다고 했다.

국내 보안기업들도 AI 투자를 늘린다. 안랩은 기존 R&D(연구개발)를 제외하고 향후 3년간 1000억원을 AI에 추가 투입한다. 휴네시온의 자회사 시큐어시스템즈는 AI 기반 통합 보안 플랫폼 '시큐어 오케스트라'를 출시했다. AI가 사람의 반복 업무를 자동화하고 우선순위를 분석해 대응 시간을 단축해준다. 소프트캠프는 웹 격리 기반 보안 원격 접속 서비스 '실드게이트'를 내놓아 AI가 해킹 통로로 악용되는 현상을 방지한다.

외부 노출 자산과 취약점을 지속 점검 등 기존 보안 원칙 준수도 중요하다. 한 보안업계 관계자는 "다중인증(MFA), 최소권한, 접근통제 등 기존 보안체계를 강화하고, 방어에 도입된 AI를 적절히 통제하는 것도 중요하다"고 말했다.

이찬종 기자 coldbell@mt.co.kr 김소연 기자 nicksy@mt.co.kr
[내 주식이 궁금할땐 머니투데이]