KAIST 'AI 실수' 바로잡는 수리기술 개발

- 딥러닝 생성모델 오류 수정기술 개발

시각적 결함이 포함된 생성 이미지의 수리 결과: 기존 수리 방식, 연구팀에서 제안한 단일 계층에서 검출된 유닛을 제거한 결과. 계층별로 검출된 유닛을 제거한 결과.[KAIST 제공]

[헤럴드경제=구본혁 기자] 한국과학기술원(KAIST)는 AI대학원 최재식 교수 연구팀이 심층 학습(딥러닝) 생성모델의 오류 수정 기술을 개발했다고 25일 밝혔다.

딥러닝 생성모델은 이미지, 음성뿐만 아니라 문장 등 새로운 콘텐츠를 생성하는 데 널리 활용되고 있다. 하지만 지금껏 개발된 생성모델은 결함이 있는 결과를 만드는 경우가 많아, 국방, 의료, 제조 등 중요한 작업 및 학습에 생성모델을 활용하기는 어려웠다.

연구팀은 문제 해결을 위해 생성 오류를 유도하는 딥러닝 내부의 유닛(뉴런)을 찾아 제거하는 알고리즘을 개발했다. 알고리즘은 딥러닝 모델의 시각적 결함의 위치를 파악하고, 딥러닝 모델 내 여러 계층에 존재하는 오류를 유발한 유닛을 찾아서 활성화하지 못하도록해 결함이 발생하지 않도록 했다.

연구팀은 설명가능 인공지능 기술을 활용해 시각적 결함이 생성된 이미지의 어느 부분에 분포하는지, 또 딥러닝 내부의 어떤 유닛이 결함의 생성에 관여하는지 찾을 수 있었다. 개발된 기술은 딥러닝 생성모델의 오류를 수리할 수 있고, 생성모델의 구조에 상관없이 적용할 수 있다.

수리 성능은 매사추세츠 공과대학(MIT)이 보유한 수리 기술 대비 FID 점수(값이 작을수록 생성 이미지의 형태가 실제 이미지와 유사)가 10점 정도 감소했다. 또 사용자 평가에서 시험 이미지 그룹의 약 50%가 결함이 제거됐고, 약 90%에서 품질이 개선됐다는 결과를 얻었다.

최재식 교수는 “생성모델의 오류 제거 기술은 다양한 이미지 외에도 다양한 생성모델에 적용돼 모델의 결과물에 대한 신뢰성을 높일 것”이라고 말했다.

이번 연구결과는 지난 23일 열린 ‘국제 컴퓨터 비전 및 패턴인식 학술대회’에서 발표됐다.

nbgkoo@heraldcorp.com