"AI드론 수백 대, 한방에 붕괴"…한국서 만든 '늑대식 사냥' 뭐길래

한승열 UNIST AI 대학원 교수 연구팀, '울프팩 어택'-'월' 기술 개발

늑대는 떼를 이뤄 약한 개체를 고립시킨 뒤, 이를 도우러 오는 동료 개체까지 순차적으로 제압하는 방식으로 사냥한다. /사진=게티이미지뱅크

전쟁 중 투입된 'AI(인공지능) 드론 합동 공격'을 무너뜨리는 공격 전략이 국내에서 나왔다. 늑대의 사냥 전략을 모방했다.

UNIST(유니스트·울산과학기술원)는 한승열 AI 대학원 교수 연구팀이 다중 에이전트 협력 구조를 단계적으로 무너뜨리는 인위적 오작동 공격 전략 '울프팩 어택'(Wolfpack Attack)과 이를 학습한 방어 기술 '월'(WALL)을 동시 개발했다고 30일 밝혔다. 연구 성과는 머신러닝(기계학습) 분야 최고 권위 학위 'ICML'에 채택됐다.

AI는 다양한 상황을 경험하며 스스로 행동 전략을 익히는 '강화학습'을 거친다. 여러 AI를 움직이기 위한 '다중 에이전트 강화학습'은 한 에이전트에 문제가 생겨도 나머지가 이를 보완해 전체 성능을 유지하도록 하는 기술이다. 단일 에이전트를 무작위로 교란하는 것만으로는 적의 협력 체계를 깨트릴 수 없다는 뜻이다. 또 센서 고장, 악천후. 의도적 해킹 등 현실적 위기 상황에 대한 훈련 효과도 제한적이다.

후속 공격 대상이 될 AI 에이전트를 선정하는 과정을 나타낸 모식도 /사진=UNIST

연구팀이 개발한 '울프팩 어택'은 먼저 한 에이전트를 오작동시킨 뒤 그를 도우려는 나머지 에이전트에 연쇄적으로 문제를 일으켜 전체 협력 구조를 붕괴시키는 방식이다. 늑대가 떼를 이뤄 약한 개체를 고립시킨 뒤, 이를 도우러 오는 동료 개체까지 순차적으로 제압하는 사냥 방식을 모방했다.

이 공격 모델에서는 예측 모델이 향후 손실을 계산해 첫 공격 시점을 자동으로 선택하고, 협동성에 민감하게 반응하는 에이전트를 행동 변화량으로 분석해 다음 공격 대상으로 차례차례 정한다.

함께 개발한 '월'은 이런 교란 전략을 AI 훈련 환경에 도입한 방어 학습 구조다. 실험 결과, '월'로 학습한 AI는 위치 오류나 통신 지연 같은 환경에서도 서로 부딪히지 않고 목표 지점에 도달하거나 함께 물체를 밀고 진형을 유지하는 등 안정적인 협력 성능을 보였다.

제1 저자인 이선우 연구원은 "이전에는 정해진 상황에서 AI가 얼마나 잘 작동하는지를 점검하는 정도였다면, 이번 기술은 현실처럼 예측하기 어려운 위기 상황에서 AI가 얼마나 잘 대응하는지 평가할 수 있다"고 했다.

한 교수는 "협력형 AI 모델의 성능을 정확하게 평가하고 위기 상황에 강한 협력 AI 모델을 만드는 데 활용할 수 있다"며 "자율 드론, 스마트팩토리, 군사·재난 현장의 군집 로봇 산업에 기여할 수 있을 것"이라고 전망했다.

한편 이번 연구는 과기정통부와 IITP(정보통신기획평가원)의 지원을 받아 수행됐다.

박건희 기자 wissen@mt.co.kr