딥러닝 모델이 만든 시각적 결함 찾아서 수리..신뢰도 높은 결과물 생성

KAIST, 시각적 결함 및 오류 제거하는 '알고리즘' 개발
결과물 신뢰도 높여 국방, 의료 등 중요작업에 활용

KAIST는 딥러닝 생성모델 내부의 결함을 찾아 제거하는 알고리즘을 개발했다. 사진은 오류를 유발하는 내부 뉴런과 계층별 뉴런을 제거하는 모식도 KAIST 제공

AI(인공지능)의 학습기법 중 하나인 딥러닝 생성모델의 오류를 제거할 수 있는 기술이 개발됐다. 많은 시간과 비용을 들여야 하는 딥러닝 생성모델의 결함을 걸러내 결과물의 신뢰도를 높여 다양한 분야에 활용할 수 있게 될 전망이다.

KAIST는 최재식 AI대학원 교수 연구팀이 딥러닝 생성모델의 오류 수정기술을 개발했다고 25일 밝혔다.

최근 딥러닝 생성모델은 이미지, 음성뿐 아니라, 문장 등 새로운 콘텐츠를 만드는 데 널리 활용되고 있다. 이 때문에 딥러닝 생성모델의 성능을 높이기 위한 적대적 생성기법과 생성기의 새로운 구조 설계 등에 관한 연구가 활발히 이뤄지고 있다.

하지만, 이런 생성모델 발전에도 불구하고, 최근 개발된 생성모델은 시각적 결함이 포함된 이미지를 생성하고, 재학습을 통해 오류 제거를 보장할 수 없어 국방, 의료, 제조 등의 중요한 작업이나 학습에 활용하는 데 한계가 있다.

더욱이 규모가 큰 최신 적대적 생성 신경망 모델의 경우 일부 오류를 해결하기 위해 모델 전체를 재학습하는 것은 적합하지 않다.

연구팀은 생성물의 오류를 유도하는 딥러닝 내부의 유닛(뉴런)을 찾아 제거하는 알고리즘을 개발했다. 알고리즘은 딥러닝 모델의 시각적 결함 위치를 파악하고, 여러 계층에 존재하는 오류를 유발한 뉴런을 찾아 활성화하지 못하게 함으로써 결함 발생을 막는다.

시각적 결함이 생성된 이미지의 어느 부분에 분포하는지, 딥러닝 내부의 어떤 뉴런이 결함 생성에 관여하는지를 찾아내는 데 성공했다. 연구팀은 이 기술이 딥러닝 생성모델의 오류를 수정하고, 생성모델 구조에 상관없이 적용할 수 있다는 것을 전통적 구조를 가진 '진행형 생성모델'로 확인했다고 설명했다.

특히 미국 MIT대가 보유한 기술에 비해 90% 가량 품질 개선 효과를 가져와 수리 성능이 우수한 것으로 나타났다.

정해동 KAIST 연구원은 "딥러닝 생성모델의 결과물에 있는 시각적 오류를 찾고, 활성화를 보이는 내부 뉴런을 순차적으로 제거함으로써, 생성 오류를 수리할 수 있었다"며 "다양한 이미지 외에도 다양한 딥러닝 생성모델에 적용해 결과물의 신뢰성을 높이는 데 기여할 것"이라고 말했다.

이 연구결과는 지난 23일 열린 '국제 컴퓨터 비전 및 패턴인식 학술대회(CVPR)'에서 발표됐다. 이준기기자 bongchu@dt.co.kr