'삭제한 민감정보 AI로 되살아나지 않는다'...머신 언러닝 기술 개발

뉴시스

[파이낸셜뉴스] 인공지능(AI)이 학습한 민감 개인정보나 저작권 위반 데이터를 지울 때 삭제 정보가 다시 살아나는 것을 막는 '기억 지우개' 기술이 새롭게 개발됐다.

울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 지워야 할 정보와 닮은 정상 정보는 보호하고, 삭제 대상 사진 몇 장만으로 인식 능력을 되살리는 공격까지 막는 '머신 언러닝 기술'인 '스포터(Spotter)'를 개발했다고 21일 밝혔다.

머신 언러닝(Machine Unlearning)은 학습을 마친 AI에서 특정 데이터나 범주가 미친 영향만 선택적으로 없애는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보를 지우거나, 학습 데이터에 포함된 개인정보와 유해 콘텐츠를 제거하는 데 쓸 수 있다.

스포터는 삭제 대상과 비슷한 정상 정보를 구별하는 AI의 능력은 그대로 유지하면서, 삭제 대상 사진들에서 공통점을 찾아내는 능력은 없애는 기술이다. 덕분에 지우지 않아야 할 정보의 인식 성능을 보호하고, 공격자가 삭제 대상 사진 몇 장을 확보하더라도 지워진 인식 기준을 다시 만들기 어렵다.

연구팀은 기존 언러닝 기술의 약점인 '과잉 삭제'와 '삭제한 정보가 다시 살아날 수 있는 재학습 취약성'을 자체 실험으로 진단해 이 같은 기술을 개발했다. 기존 언러닝 기술로 AI가 특정 범주를 더 이상 인식하지 못하도록 한 결과 전체 평균 정확도는 높게 유지됐지만 삭제 대상과 닮은 정상 정보의 인식 성능은 떨어지는 것으로 나타났다. 또 삭제 대상의 특징이 AI 안에 남아 있어, 관련 사진 몇 장만 다시 보여줘도 지웠던 인식 능력이 되살아날 수 있었다.

소형 이미지 데이터셋인 CIFAR-10으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄으며 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다. 반면 기존 언러닝 기술은 사진 5장을 이용한 재학습 공격 뒤 삭제 대상에 대한 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났다. 스포터는 삭제하지 않은 나머지 범주에 대해 인식 정확도 99.96%를 유지했다.

공동 연구팀은 "언러닝 기술의 사각지대를 보완하기 위해 개발된 스포터는 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인(plug-and-play) 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용될 수 있을 것"이라고 기대했다.

이번 연구는 인공지능 분야 세계 최고 권위의 국제학술대회인 국제머신러닝학회(International Conference on Machine Learning, ICML)에 채택됐다. 2026 ICML은 지난 7월 6일부터 11일까지 서울에서 열렸다.

jiany@fnnews.com 연지안 기자