해커도 챗GPT 쓴다···양날의 칼 AI [AI토피아]

中 해커 조직, 텔레그램에서 AI 활용
해커들에게 효율적 보조 도구로 쓰여
챗GPT 이용 악성코드 제작 범죄 늘 전망
국내외 보안 기업들 AI 이용 서비스 선봬

[서울경제]

챗GPT로 촉발된 생성형 인공지능(AI) 기술 개발 경쟁이 격화하면서 기대와 우려가 공존합니다. AI와 함께 하는 현재와 같이 살아갈 미래는 인류에게 유토피아일 수도 있고, 디스토피아가 될 수도 있습니다. ‘AItopia’를 통해 AI로 인한 사회·산업의 변화를 분석하고 인류 삶의 미래를 조망합니다.

중국 해커 조직 샤오치잉이 AI에게 질문하고 답변을 받고 있다. 텔레그램 캡처

챗GPT 등 인공지능(AI) 기술이 발달하며 AI가 사이버 공격과 방어 양쪽 수단으로 활용되고 있다. AI를 이용하는 해커들이 늘고 있고 보안 업체들도 AI를 이용한 서비스들을 선보이고 있다.

6일 업계에 따르면 중국 해커 조직 ‘샤오치잉’은 올 초 CU 등 국내 기업과 기관들의 사이트를 해킹할 때 AI를 활용했다. 샤오치잉이 텔레그램 방에서 해킹에 필요한 스크립트 코드 등을 AI에 묻고 답변을 구하는 모습이 포착되기도 했다. 한 보안 전문가는 “샤오치잉이 홈페이지를 해킹하거나 웹셀(악성코드)을 실행할 때 AI를 이용해 효율적 접근을 한 것 같다”며 “해커들도 AI로 더 똑똑해지고 있다"고 말했다.

글로벌 보안 업체 체크포인트는 올 1월 보고서에서 “챗GPT를 활용해 악성코드를 만드는 사이버 범죄자들이 늘고 있다”고 분석했다. 랜섬웨어 공격에 쓰이는 데이터 암호화·복호화 도구를 만들거나 새로운 다크웹 플랫폼을 제작하는 코드 생성법을 공유하는 사례도 언급했다. 그러면서 챗GPT 언어 모델이 정교해질수록 초보 해커들이 악성코드나 피싱 메일을 보다 쉽게 만들어 사이버 범죄 진입 장벽이 낮아질 것으로 전망했다.

지난 4월에는 롭 조이스 미국 국가안보국(NSA) 사이버보안국장이 미 전략국제문제연구소(CSIS) 대담에서 “챗GPT로 해킹 공격을 자동화하거나 특정 소프트웨어의 취약점을 전부 찾으라고 지시할 수는 없겠지만 그런 작업의 흐름을 최적화할 것"이라며 "단기에 챗GPT가 해커들을 대체하는 '슈퍼 AI 해커'가 되지는 않겠지만 AI를 이용하는 해커들은 그렇지 않은 해커들보다 더 효과적일 것"이라고 경고했다. 국내 또다른 보안 전문가도 “현재의 챗GPT가 개발자를 완전히 대체하지 못하는 만큼 해커의 보조도구로 활용될 수는 있지만 크게 위협적인 수준은 아니다”고 말했다.

마이크로소프트의 시큐리티 코파일럿 프롬프트 바. 사진 제공=마이크로소프트

AI는 사이버 공격뿐 아니라 방어에도 쓰이고 있다. 국내외 보안 업체들이 AI를 자사 보안 기술에 녹여 서비스를 고도화하는 것이다. 마이크로소프트(MS)는 지난 3월 오픈AI의 언어 모델 GPT-4를 기반으로 한 ‘시큐리티 코파일럿’을 공개했다. 보안 전문가가 프롬프트 바에 “우리 회사의 모든 보안 관련 사고에 대해 알려줘”와 같은 간단한 자연어 입력만으로 사용할 수 있다. 취약점 요약이나 다른 보안 도구에서 발생한 정보 요청도 가능하다.

국내 보안 기업 파수는 기업들의 안전한 AI 이용을 돕는 'F-PASS(파수 프라이빗 AI 어시스턴트 서비스)'를 개발해 내년 선보일 예정이다. F-PAAS는 각 기업만의 특수한 인텔리전스(지능)를 장착한 기업 맞춤형 AI 솔루션이다. 조규곤 파수 대표는 지난달 ‘파수 디지털 인텔리전스(FDI) 2023’ 간담회에서 “각 기업 환경에 맞는 데이터를 학습시킨 프라이빗 AI 서비스를 계획 중”이라며 "생성형 AI 챗GPT가 나타나면서 많은 것들이 바뀌어 여기에 맞춰 새로운 전략을 짜고 있다”고 전했다.

강도림 기자 dorimi@sedaily.com