"AI 적대적 공격 막는다"…전남대, '인텐스퓨어' 기술개발

[광주=뉴시스] 구용희 기자 = 전남대학교는 인공지능융합학과 유석봉 교수팀이 인공지능(AI)에 대한 적대적 공격을 효과적으로 방어하는 기술인 '인텐스 퓨어'를 개발했다고 20일 밝혔다.

연구팀이 개발한 '인텐스 퓨어'는 적대적 정화 기술을 통해 인공지능 모델의 강건성을 높이는 기술이다.

정확도·복잡도 면에서 효과적인 정화를 위해 입력 이미지를 이산 코사인 변환 기반 2차 이미지로 재구성해 적대적 공격이 주로 가해지는 특정 주파수 영역에 초점을 맞춰 정화하는 2차 도메인 적응 디퓨전 모델을 새롭게 제안한 것이라고 연구팀은 설명했다.

이 기술은 입력 이미지에 가해질 수 있는 적대적 공격량을 정확히 추정하고 적응적으로 처리하는 데도 장점이 있다.

연구팀은 다양한 유형의 적대적 공격과 데이터베이스 실험을 통해 개발된 기술이 최신 성능의 이미지 정화 방법들을 능가하는 결과를 확보했다.

'적대적 공격'이란 눈에 띄지 않는 작은 변화 만으로도 인공지능 시스템이 오도해 잘못된 판단을 내리게 만드는 공격이다. 인공지능 시대의 새로운 위협이다.

연구에는 전남대 인공지능융합학과 시각지능미디어연구실 이은기 석사과정, 이문석 석박사통합과정, 윤재현 석사과정 학생이 참여했다. 유석봉 교수가 교신저자로 참여했다.

해당 연구논문은 승인률 10%대 AI 분야 콘퍼런스(International Joint Conference on Artificial Intelligence·IJCAI)인 2024 국제 콘퍼런스에서 8월 공식 발표될 예정이다.

☞공감언론 뉴시스 persevere9@newsis.com

사회