“AI로 사이버 위협 대응..국제적 협력도 필수” [미리 보는 AI월드 2023]

(5) 구글클라우드 맨디언트 루크 맥나마라 수석 애널리스트 인터뷰
“딥페이크 등 생성형AI 악용 콘텐츠에 대한 비판적 사고도 키워야”

[파이낸셜뉴스] “우리 모두가 직면한 사이버 위협에 대응하기 위해서는 생성형 인공지능(AI)을 적극 활용하는 한편 국제적 협력이 반드시 이뤄져야 한다. ‘AI월드(AI WORLD)’와 같은 대형 컨퍼런스 역시 이러한 논의를 진전시키고 국제 파트너십을 촉진하는 데 매우 중요한 역할을 한다고 생각한다.”

구글 클라우드 맨디언트의 루크 맥나마라 수석 애널리스트.

구글 클라우드 자회사인 글로벌 사이버 보안기업 맨디언트의 루크 맥나마라 수석 애널리스트( 사진)는 18일 파이낸셜뉴스와 인터뷰를 통해 “민간 부문과 정부 간의 정보 공유를 통해 이뤄지는 사이버 보안 협력은 특정 지역에서 발생한 직후 다른 지역으로 이동하는 사이버 위협에 대한 신속대응과 전반적인 인식을 고취시킨다”며 이같이 밝혔다.

맥나마라 수석 애널리스트는 파이어아이, 아이사이트 파트너스, 미국 부통령실에서 애널리스트 및 컨설턴트로 활약한 사이버 위협 인텔리전스(Cyber Threat Intelligence) 전문가로 유명하다.

■생성형 AI, 사이버 보안 조력자가 되다
맥나마라 수석 애널리스트는 파이낸셜뉴스와 과학기술정보통신부 공동주최로 오는 23일 서울 여의도 콘래드 호텔에서 열리는 AI월드에서 ‘생성형 AI가 사이버 보안인력을 지원하는 방안’에 대해 발표한다. AI는 사이버 위협 방어 조직과 사이버 분석가들이 이미 하고 있는 보안 업무를 더욱 잘할 수 있도록 지원한다는 것이 핵심 메시지이다.

맥나마라 수석 애널리스트는 “생성형 AI는 보안 실무자가 각종 위협을 더욱 빨리 탐지하도록 지원한다”고 강조했다. ‘챗GPT’ 등장 이후 생성형 AI로 인한 사이버 위협 보다는 사이버 보안 측면에서 조금 더 두각을 드러내고 있다는 게 그의 설명이다.

맥나마라 수석 애널리스트는 “최근 몇 년 동안 사이버 보안사고 규모와 정교함은 증가했지만 AI가 필수요소였던 사례는 아직 없었다”며 “생성형 AI를 활용하는 사이버 공격자는 주로 정보작전(IO)을 수행하거나 허위정보를 유포하지고 있지만, 보안 연구원들도 이러한 콘텐츠를 식별하기 위한 도구(툴)를 개발해 대응하고 있다”고 전했다.

■딥페이크 등 콘텐츠 식별 역량 키워야
또 사이버 공격자는 조작한 콘텐츠를 확산시키기 위해 소셜미디어(SNS) 프로필 사진에 ‘생성적 대립 신경망(GAN)’ 이미지를 사용하고 있다. 맥나마라 수석 애널리스트는 “GAN 생성 이미지는 허위정보 캠페인의 일부로 활용된 적이 있으므로 앞으로도 지속적으로 악용될 것으로 예상된다”며 “‘해킹 및 유출(hack-and-leak)’ 캠페인뿐만 아니라 신뢰할 수 있는 언론매체 및 언론인의 SNS 계정을 손상시켜 딥페이크를 포함한 조작된 콘텐츠를 유포한 움직임도 있었다”고 지적했다. 이어 “인물의 움직임까지 구현해 더욱 복잡한 풀모션 딥페이크는 오히려 눈에 띄는 오류가 발생할 확률도 높아서 신뢰성이 떨어질 경우 소극적으로 사용될 수 있겠지만, 공격자들은 더욱 다양한 공격을 지속적으로 시도할 것으로 예상된다”고 덧붙였다.

이에 따라 콘텐츠 소비자인 개개인도 ‘신뢰할 수 있는 출처’를 찾고 관련 내용을 보다 비판적으로 검토하는 것이 중요하다는 게 그의 조언이다. 맥나마라 수석 애널리스트는 “빠르게 전개되는 혼란스러운 뉴스와 관련된 이미지를 주의해야 한다”며 “기술 툴은 궁극적으로 모든 종류의 잘못된 정보를 더 잘 식별할 수 있도록 도와주지만 비판적 사고 능력을 기르는 것도 기본적으로 중요하다”고 강조했다.
#구글 #구글클라우드 #AI월드 #생성형AI #AIWORLD #맨디언트