GIST, '설명 가능한 자율주행차' 기술 개발

김승준 교수팀, MIT 컴퓨터과학 인공지능 연구소와 공동연구

지스트와 MIT 인공지능 연구소 연구원들의 공동연구 장면(지스트 제공)/뉴스1

(광주=뉴스1) 조영석 기자 = 자율주행 환경에서 인공지능(AI)의 결정을 탑승자가 이해할 수 있도록 설명할 수 있을까?

광주과학기술원(GIST)은 자율주행차량 내 인공지능의 주행 의사결정을 탑승객 중심으로 설계 및 평가하는 기술을 개발, 자율주행 알고리즘의 결과(인지판단 사유)를 탑승객에게 설명하고 시각화하는 방법을 제시했다고 9일 밝혔다.

지스트 융합기술학제학부 김승준 교수 연구팀과 매사추세츠공대(MIT) 인공지능 연구소(CSAIL)가 공동연구를 통해 개발한 기술로 생체 센서를 통해 탑승객의 도로상황 인식 수준을 평가하고 이에 맞춰 자율주행 상태를 시각화, 복잡한 AI 모델의 의사결정을 탑승객이 이해할 수 있도록 설명하는 기술이다.

이번 연구는 차량 인터페이스를 증강하여 임의의 설명 가능한 주행 알고리즘을 탑승자(인간) 중심으로 평가할 수 있다는 장점이 있다.

자율주행차량의 기술 수용도를 높이기 위한 차내 정보 시스템, 헤드업 디스플레이 등 첨단 전장(자동차 전기·전자 장비) 설계에 응용될 수 있을 것으로 기대된다.

연구팀은 지난 10월 12일 유비쿼터스 컴퓨팅 분야 최우수 국제 학회인 'UbiComp(ACM) 2023에서 관련 연구 성과를 발표했다.

김승준 교수는 "도로 위 가상현실 환경에서 탑승객의 인지 부하, 긴장, 신뢰도, 상황인식 등 사용자 경험을 평가할 수 있다는 점에서 학회의 많은 관심을 받았다"며 "최근 성공적으로 개최한 'GIST-MIT 심포지엄'을 계기로 국제공동연구 성과를 확산하고, 인간 중심의 인공지능 연구 개발을 위해 협력할 것"이라고 말했다.

김승준 교수가 주도하고 김광빈 박사과정생, 여도현 박사과정생, 조태우 석사과정생이 수행한 이번 연구는 GIST-MIT 국제협력사업의 지원을 받아 매사추세츠공대(MIT)의 컴퓨터과학 인공지능 연구소(CSAIL) 소장인 다니엘라 러스(Daniela Rus) 교수를 포함한 MIT 연구팀과의 공동 연구로 진행됐다.

kanjoys@news1.kr