악성코드 제작, 생성형 AI로 더 쉬워졌다…정부, 대응책 고심

과기부, 생성형 AI 보안위협 토론회 열어
“보안위협 커졌지만, 취약점 찾기 도움도 돼”

챗지피티(ChatGPT)와 같은 생성형 인공지능 서비스를 사이버 공격에 악용하는 사례가 늘면서, 정부와 기업들이 신속하게 대응 체계를 갖춰야 한다는 지적이 나온다. 이 과정에서 생성형 인공지능 기술을 활용하면 사이버 보안의 효율성을 높일 수 있을 거란 기대도 업계 관계자들 사이에서 나온다.

과학기술정보통신부는 13일 서울 송파구에 있는 보안 전문 기업 이글루코퍼레이션 본사에서 정보보호기업, 학계, 유관기관 등과 현장 토론회를 열고, 생성형 인공지능을 악용한 보안 위협에 대응하기 위한 방향을 논의했다.

박윤규 과기정통부 제2차관은 “최근 챗지피티 등 생성형 인공지능 서비스를 악성코드, 랜섬웨어, 피싱 메일 제작 등 사이버 공격에 악용할 가능성이 커지고 있다. 또 생성형 인공지능 서비스 이용 과정에서 개인정보나 기업의 기밀 정보가 유출되는 등 보안 문제도 잇따르고 있다”고 토론회 개최 배경을 설명했다.

토론회에 참석한 전문가들은 챗지피티를 비롯한 생성형 인공지능 서비스가 널리 쓰이기 시작하면서 새로운 유형의 보안 위협이 늘었다고 분석했다.

이상근 고려대 교수는 “생성형 인공지능은 보안 취약점을 스스로 찾아내고 나아가 취약점을 공략하기 위한 코드도 생성해 낸 사례도 있다. 심지어 (인공지능이) 그 원리를 설명해주기도 한다. 또 오픈에이아이(OpenAI)의 지피티(GPT)2 모델 학습에 쓰인 데이터로부터 이름, 전화번호, 이메일 주소, 누리소통망(SNS) 대화 내역 등 민감한 개인정보 추출이 가능하다는 보고도 있다”고 말했다.

김정희 한국인터넷진흥원(KISA) 미래정책연구실장은 “해킹 기술을 습득하기 위한 진입장벽이 생성형 인공지능 서비스들의 등장으로 크게 낮아졌다. 예를 들어, 국내 공공분야 사이버 위협의 74% 이상이 피싱 이메일 공격 형태를 띠는데, 챗지피티로 사람보다 더 정교하고 친밀한 피싱 메일을 작성할 수 있다면 피해 규모가 훨씬 커질 것”이라고 말했다.

전문가들은 정부와 기업들이 생성형 인공지능을 악용한 사이버 공격에 대한 예방·대응 체계를 신속하게 갖춰야 한다고 당부했다.

김정희 실장은 “생성형 인공지능이 만들어낸 악성코드를 탐지·분석하는 기술을 개발하고, 사고 전파를 막기 위한 정보 공유 체계를 강화할 필요가 있다”고 말했다.

정부와 기업들이 생성형 인공지능을 악용한 사이버 보안 위협에 대응할 역량을 키우는 데에 인공지능 기술을 적극적으로 활용해야 한다는 제언도 나왔다.

정일옥 이글루코퍼레이션 기술위원은 “챗지피티와 같은 생성형 인공지능 서비스는 보안 관점에서 위험하기도 하고 유용하기도 하다”며 “보안 기업들을 중심으로 잠재적인 위험 요소를 찾아내는 데에 독자적인 생성 인공지능 모델을 활용하는 사례가 늘고 있다”고 소개했다. 이어 “이전에는 인공지능 기반 보안 솔루션이 찾아낸 취약점을 보안 담당자들이 신뢰하지 못하는 경우가 많았다. 그런데 생성형 인공지능 기술을 활용해 어떤 기준에 따라 특정 행위를 이상 행위라고 탐지한 것인지를 설명해 주자 이같은 문제가 많이 해소됐다”고 설명했다.

박윤규 차관은 “국민이 생성형 인공지능 서비스를 안심하고 이용하도록 안전한 사이버 환경을 만들고, 갈수록 지능화·고도화하는 사이버 위협에 대한 대응 역량을 갖추기 위해 최선을 다하겠다”고 말했다.

정인선 기자 ren@hani.co.kr