인간 뇌 닮은 `AI` 등장…AI 이미지 인식 향상

IBS, 뇌처럼 시각정보 선택적 처리
CNN 전통모델 한계 극복..AI성능 높여

이창준(왼쪽부터) IBS 단장, 송경우 교수, 권재 IBS 박사후연구원 .

국내 연구진이 뇌가 시각 정보를 선택적으로 처리하는 방식으로 AI의 이미지 인식 능력을 높이는 기술을 개발했다.

기초과학연구원(IBS)은 이창준 인지 및 사회성 연구단장 연구팀은 송경우 연세대 교수팀과 공동으로 뇌의 시각피질이 시각 정보를 선별해 처리하는 방식을 응용해 AI의 이미지 인식 능력을 향상시키는 새로운 기술을 개발했다고 22일 밝혔다.

인간의 시각 시스템은 한 눈에 사물을 인식하고, 복잡한 환경에서도 중요한 정보를 빠르게 선별한다. 이에 비해 전통적인 AI 모델인 합성곱 신경망(CNN)은 작은 정사각형 필터로 이미지를 쪼개 분석하기 때문에 넓은 맥락을 파악하거나 거리가 떨어져 있는 정보 사이의 관계를 이해하는 데 한계가 있다. 이를 보완한 비전 트랜스포머는 막대한 연산량과 대규모 데이터 세트가 필요해 실용성에 제한이 있다.

연구팀은 인간 뇌의 시각 피질이 시각 정보를 선택적으로 처리하는 방식에 주목했다. 인간의 시각 피질은 모든 정보를 똑같이 처리하지 않고 눈에 띄는 특징이나 중요한 부분에만 집중해 선택적으로 반응한다. 이 과정에서 뉴런들은 넓은 범위에서 필요한 정보만 선택적으로 반응한다.

연구팀은 이런 인간 뇌의 뉴런 구조를 모사해 CNN 모델의 성능을 높일 수 있는 'Lp-컨볼루션' 기술을 제안했다. Lp-컨볼루션은 이미지에서 중요한 영역은 강조하고, 덜 중요한 영역은 덜 보이게 조정하는 가중치 필터 '마스크' 기술을 적용, AI가 이미지를 분석할 때 사람처럼 핵심적인 정보를 우선 파악할 수 있도록 설계됐다. 마스크는 학습 과정에서 스스로 형태를 조정해 다양한 환경에서도 중요한 특징에 집중할 수 있도록 지원한다.

연구팀은 Lp-컨볼루션을 다양한 CNN 모델에 적용해 성능을 평가한 결과, 기존 CNN 모델보다 이미지 분류 정확도가 눈에 띄게 향상됐음을 확인했다. 특히 한 번에 더 넓은 영역을 살펴볼 수 있도록 필터 크기를 넓혀도 성능 저하 없이 안정적으로 작동했고 정확도는 오히려 높아지는 결과를 얻었다.

일반적으로 분석 범위를 넓히면 계산량이 증가하고, 정확도가 떨어지는데, Lp-컨볼루션은 이런 한계를 극복한 것이다. 연구팀은 이어 Lp-컨볼루션이 실제 뇌의 정보 처리 방식과 얼마나 유사한지를 확인하는 실험에서도 기존 CNN 모델보다 뉴런 반응을 더 정밀하게 예측했으며, 예측 오차도 줄어든 것으로 나타났다.

이창준 IBS 단장은 "Lp-컨볼루션이 AI 성능 향상을 넘어 뇌가 정보를 어떻게 처리하는지를 모방학 이해하는 데 크게 기여할 수 있다"며 "AI와 뇌과학이 함께 발전할 수 있는 새로운 융합 모델의 좋은 사례가 될 것"이라고 말했다.

한편 이 연구결과는 오는 24∼28일 싱가포르에서 열리는 세계적 권위의 AI 학회 'ICLR 2025'에서 발표될 예정이다. 이준기기자 bongchu@dt.co.kr