"생성AI, 사이버보안에 적극 활용해야"

구글 보안 계열 '맨디언트'
맥너마라 애널리스트 인터뷰
AI 악용하는 해킹은 증가세
창·방패 싸움…AI 방패로 써야

"생성형 인공지능(AI)은 그동안 해커에게 악용될 것이라는 전망이 많았습니다. 하지만 보안 업체도 생성형 AI를 활용해 해킹에 빠른 속도로 대처하고 있습니다."

구글 보안 계열인 맨디언트의 루크 맥너마라 수석애널리스트가 생성형 AI 시대를 맞아 20일 내놓은 진단이다. 맥너마라 수석애널리스트는 국내 최대 국제 해킹방어 대회인 '코드게이트 2023'에 앞서 매일경제와 진행한 인터뷰에서 생성형 AI가 해킹에 큰 영향을 미칠 것이라고 강조했다.

그는 "생성형 AI는 사이버 보안의 공격자와 방어자 모두에게 영향을 미칠 수 있는 잠재력을 지녔다"며 "일부 공격자는 AI로 만들어진 사진이나 멀티미디어를 악용하는 이른바 '딥페이크' 분야에서 생성형 AI를 사용하기 시작했다"고 말했다. 이어 맥너마라 수석애널리스트는 "많은 공격자가 사회관계망서비스(SNS)에서 허위 정보 유포 또는 정보 조작에 관여하고 있다"며 "이러한 조작된 이미지를 계정 프로필 사진으로 사용할 수 있다"고 설명했다.

미국에서 열린 글로벌 해킹 대회인 '데프콘'에서 화이트해커는 생성형 AI에 인종차별과 특정 정치인에 대한 험담 등을 학습시키는 데 성공했다. 또 고용주와 연결된 이메일을 피싱 공격하는 방법을 안내하도록 유도했다. 생성형 AI가 실제 해커에게 충분히 악용될 수 있는 대목이다.

하지만 맥너마라 수석애널리스트는 "생성형 AI는 사이버 보안 방어자에게도 강력한 도구가 될 수 있다"고 역설했다. 그는 "생성형 AI를 통해 위협을 더 빨리 발견하고, 많은 작업이나 수작업을 덜어주며, 보안 업계의 인력 부족 문제를 더 잘 해결할 수 있도록 지원한다"고 설명했다. 그러면서 그는 "사이버 보안 침해나 사고에 대처할 때는 속도가 매우 중요하다"며 "이런 점에서 생성형 AI는 개인과 조직이 더 빠르게 대응하도록 도와줄 수 있는 잠재력이 있다"고 덧붙였다. AI와 연동해 위험을 분석하고 코드를 생성할 수 있다.

맥너마라 수석애널리스트는 미국 부통령실과 보안업체 파이어아이 등에서 일한 보안 전문가로, 북한 해킹에도 식견이 높다고 평가받는다. 그는 "북한 해커는 조직과 개인을 표적으로 삼고자 다양한 전술을 활용한다"며 "특히 올해는 북한 위협 그룹이 최종 이용자를 표적으로 삼기 위해 더 많은 공급망 손상을 사용하는 것을 목격했다"고 말했다.

공급망 손상이란 클라우드 등 소프트웨어를 공급하는 지점을 공격하는 것을 가리킨다. 이를 통해 해당 프로그램을 내려받는 모든 이를 연쇄적으로 감염시킨다. 앞서 국가정보원이 정부 기관에 납품된 중국산 계측 장비에서 악성 코드가 발견됐다며 이들 장비를 전수 조사하겠다고 밝힌 것이 대표적이다. 맥너마라 수석애널리스트는 "해커는 이러한 방식으로 광범위한 그물을 던진 다음 후속 공격을 위해 특정 대상을 선택할 수 있다"고 설명했다.

그는 24~25일 서울 코엑스에서 열리는 '코드게이트 2023'에서 기조연설자로 나선다. 맥너마라 수석애널리스트는 "전 세계 민간·공공 부문 연구를 한데 모으는 국제 해킹 대회라는 점이 마음에 들었다"며 "강연에서는 올해 맨디언트가 추적해온 위협 환경의 몇 가지 트렌드와 이것이 이전 트렌드와 어떻게 일치하는지, 어떤 종류의 위협이 나타날지 예측할 수 있는 방법에 대해 논의할 것"이라고 말했다.

코드게이트는 2008년 김상철 한컴그룹 회장이 설립한 국제 해킹방어 대회이자 글로벌 보안 콘퍼런스이며 3대 국제 해킹방어 대회 중 하나로 꼽힌다. 매년 보안 트렌드를 제시하고 인재를 양성해낸다. 과학기술정보통신부가 주최하고 코드게이트보안포럼·매경미디어그룹·한국인터넷진흥원(KISA)이 공동 주관한다. 특히 올해는 'AI 시대 보안 패러다임'이 주제다. 올 한 해 화두가 된 생성형 AI 등장처럼 급속도로 변하는 디지털 환경에서 AI를 악용한 사이버 공격과 보안 위협에 관해 논의하고 해결책을 모색할 예정이다.

한편 맥너마라 수석애널리스트가 소속된 맨디언트는 구글 클라우드가 지난해 54억달러(약 7조2500억원)를 투자해 인수한 사이버 보안 업체다.

[김대은 기자]