단국대 김선오 교수팀, AI 판단 신뢰성 높이는 기술 개발

다중 시점 분석으로 기존 모델 재학습 없이도 공격 탐지·보정

▲단국대 김선오 교수(왼쪽)와 서울 시립대 엄대호 교수. /사진제공=단국대

첨단 산업 현장에서 인공지능(AI)의 판단을 흐리게 만드는 '적대적 공격'에 대한 강력한 방어선이 구축될 전망이다. 자율주행 차량이 사물을 오인하거나 의료 영상 판독 결과가 왜곡되는 등 신뢰성이 핵심인 분야에서 치명적인 위협으로 작용해온 이미지 변형 공격을 효과적으로 무력화할 수 있게 됐다.

단국대학교 AI융합대학 컴퓨터공학과 김선오 교수팀은 서울시립대학교 엄대호 교수팀과의 협력을 통해 인공지능 보안 기술인 'MAC(Multi-View Guided Adaptive Counterattack)'을 완성했다. 해당 기술은 지난 2월 학술대회 채택을 마친 상태로, 오는 6월 컴퓨터 비전 분야 세계 최고 권위 학회인 'IEEE/CVF CVPR'에서 공식 발표를 앞두고 있다.

MAC 기술의 핵심은 인공지능이 스스로 데이터 오염 여부를 감지해 실시간으로 보정하는 지능형 메커니즘에 있다. 기존 AI 모델들이 단일 정보에만 의존해 미세 노이즈에 쉽게 기만당하던 약점을 보완하기 위해, 하나의 데이터를 다각도에서 동시에 분석하는 방식을 채택했다. 이를 통해 변형 정도를 정밀하게 추정하고 결괏값을 즉각 수정하는 체계를 갖췄다.

특히 현장 도입의 걸림돌이었던 경제성과 실용성 문제를 동시에 해결했다는 점이 주목받는다. 기존 모델을 폐기하고 처음부터 다시 학습시킬 필요 없이, 실제 사용 단계인 추론 과정에서 곧바로 기술을 적용할 수 있기 때문이다. 이는 연산 비용 증대나 메모리 과부하를 억제하면서도 보안 강도를 안정적으로 유지할 수 있는 기술적 토대가 된다. 연구팀은 이미 방대한 데이터셋 검증을 통해 기술의 실효성을 입증했다.

김선오 교수는 "데이터를 다각도에서 재검증하고 공격 수위에 맞춰 지능형 보정을 수행하도록 설계한 것이 연구의 성과"라며 "AI의 안전 확보가 필수적인 보안 및 의료, 자율주행 등 산업 전반에 걸쳐 폭넓게 쓰일 방침"이라고 밝혔다.

/용인=김종성 기자 jskim3623@incheonilbo.com