챗GPT로 구글 비밀번호 훔친다...150달러면 해킹 AI도 이용

150달러 내면 해킹 돕는 악성 AI도 나와
AI 관련 데이터 보안 사고 1년 새 두 배 ↑
보안 프로그램 개발, 업체 간 M&A 활발

생성형 인공지능(AI)의 발달로 사이버 해커들의 해킹 기술이 점차 고도화되고 있다. 챗GPT로 해킹을 위한 악성 코드를 만들거나, 유료 버전의 AI 도구를 이용해 해킹 프로그램을 더욱 업그레이드하는 식이다. AI가 글로벌 사이버 보안 전쟁의 서막을 열었다는 분석이다.

챗GPT에 악성 코드 요청했더니 디버깅까지 도와

지난해 2월 촬영된 '사이버 공격'이라고 쓰인 글자 앞에 컴퓨터와 스마트폰을 든 인형들이 보이는 모습. 로이터 연합뉴스 자료사진

19일(현지시간) 영국 시사주간 이코노미스트에 따르면 현재 해커들은 대규모언어모델(LLM)을 이용해 딥페이크를 제작하거나 사기 이메일을 쓰는 것으로 파악됐다. 사이버 해커들이 설계한 악성 AI 도구인 '잔소록스AI'는 월 150달러(약 20만 원)만 내면 스피어피싱(지인이나 회사에서 보내는 이메일처럼 위장한 공격) 등 다양한 해킹 활동에 사용될 수 있는 것으로 전해졌다.

악성 코드 자체도 AI 덕분에 고도화되고 있다. 가령 전자문서(PDF)로 위장한 해킹 소프트웨어가 AI와 연동해 네트워크에 침투하는 식이다. 지난 7월 우크라이나 보안 시스템을 노린 공격에서는 악성코드가 해킹에 실패하자, 클라우드 기반 LLM에 도움을 요청해 방어벽을 뚫을 새로운 코드를 생성해내기도 했다.

사이버 보안 회사 케이토네트웍스의 AI 연구자 비탈리 시모노비치는 "챗GPT에 웹브라우저 구글 크롬의 비밀번호를 훔치는 악성 소프트웨어를 만들고 싶다고 하자, 챗GPT는 곧바로 악성 코드를 내놨고 디버깅(소프트웨어 오류 복구 분석)까지 도왔다"고 전했다.

IBM "지난해 피싱 사기 5건 중 2건에 AI 사용"

사이버 해커들의 공격에 생성형 인공지능(AI)이 사용되면서 사이버 보안을 위한 기업들의 비용 지출이 증가하고 있다. 게티이미지뱅크

이 같은 위협은 기업들의 막대한 손실로 이어질 수 있다. 미국 IBM에 따르면 지난해 데이터 유출 사건 6건 중 1건에 AI가 관여했고, 피싱 사기의 5건 중 2건에도 AI가 사용됐다. 글로벌 회계 컨설팅업체 딜로이트는 생성형 AI로 인한 사기 규모가 2023년 120억 달러(약 16조 원)에서 2027년 400억 달러(약 55조 원)로 늘어날 것으로 전망된다.

피해액이 커지면서 보안을 위한 비용 역시 증가하고 있다. 글로벌 시장조사업체 가트너는 회사의 사이버 보안 지출이 2024년에서 2026년 사이 25% 증가해 2,400억 달러(약 335조 원)에 이를 것으로 내다봤다. 세계 최대 사이버 보안 회사인 팔로알토네트웍스는 생성형 AI 관련 데이터 보안 사고가 지난해 이후 두 배 이상 증가했고 이에 전년 대비 영업이익이 두 배 가까이 증가했다고 18일 발표했다. 이코노미스트는 "기업들이 치열한 경쟁과 인수합병(M&A)으로 AI 기반 해킹에 대항하고 있지만, 최첨단 LLM 개발 경쟁 속에서 보안은 뒤로 밀려날 가능성이 높다"고 짚었다.

손성원 기자 sohnsw@hankookilbo.com

한국일보

국제