[과기원NOW] '늑대 공격' 닮은 모의 위기 상황으로 AI 협동성 키운다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
■ 한승열 울산과학기술원(UNIST) 인공지능대학원 교수팀은 다중 인공지능(AI) 에이전트 간 협력 구조를 무너뜨리는 인위적 오작동 공격 전략 '늑대무리 공격 전략(Wolfpack Attact)'과 이를 방어하는 기술 '월(WALL)'을 개발했다고 30일 밝혔다.
늑대무리 공격 전략은 한 에이전트를 오작동시킨 뒤 그를 도우려는 나머지 에이전트에 연쇄적으로 문제를 일으켜 전체 협력 구조를 붕괴시키는 전략이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
■ 한승열 울산과학기술원(UNIST) 인공지능대학원 교수팀은 다중 인공지능(AI) 에이전트 간 협력 구조를 무너뜨리는 인위적 오작동 공격 전략 '늑대무리 공격 전략(Wolfpack Attact)'과 이를 방어하는 기술 '월(WALL)'을 개발했다고 30일 밝혔다. 늑대무리 공격 전략은 한 에이전트를 오작동시킨 뒤 그를 도우려는 나머지 에이전트에 연쇄적으로 문제를 일으켜 전체 협력 구조를 붕괴시키는 전략이다. 실제 늑대의 사냥 방식을 모방했다. 향후 손실을 계산해 첫 공격 시점을 자동으로 선택하고, 후속 공격 대상은 민감하게 반응하는 에이전트를 행동 변화량으로 분석해 결정하도록 했다. 함께 개발된 월은 이러한 교란 전략을 AI 훈련 환경에 도입한 방어 학습 구조다. 한 교수는 "협력형 AI 모델의 정확한 성능 평가와 위기 상황에 강한 협력 AI 모델을 만드는데 활용될 수 있다"고 말했다.
[정지영 기자 jjy2011@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.