말·행동 없어도 AI가 사람 뇌파 읽고 스스로 움직인다

이상완 교수 연구팀, 개발 발표

사용자가 말이나 행동으로 명령을 하지 않아도 인공지능(AI)이 사람의 뇌파를 읽어 스스로 행동을 교정하는 기술을 카이스트(KAIST) 연구진이 개발했다. 카이스트는 이상완 뇌인지과학과 석좌교수(사진) 연구팀이 마이크로소프트연구소 아시아와 공동 연구로 인간의 뇌파를 이용해 실시간으로 AI를 인간의 목표에 맞추는 ‘신경 가치 정렬’ 기술을 개발했다고 10일 밝혔다.

현재의 AI는 사람이 명령을 했을 때의 말이나 행동, 몸짓 등 외부에 드러난 정보를 바탕으로 의도를 추정한다. 이 과정에서 실제 의도를 읽어내지 못하는 한계가 생긴다. AI는 이런 ‘목표-행동 모호성’ 때문에 사람의 의도를 오인할 수 있다. 이 경우 사용자가 다시 명령을 하거나 행동을 교정해야 한다.

연구팀은 사람이 예상과 다른 상황을 마주했을 때 뇌에서 무의식적으로 발생하는 ‘예측 오차’를 활용해 문제를 해결했다. 예를 들어 AI가 잘못된 행동을 했을 때 순간적으로 ‘이게 아닌데’라는 뇌의 반응이 나타나는 것을 이용한 것이다.

연구팀은 AI가 작업하는 모습을 지켜보는 사람의 뇌파를 실시간 측정해 반응을 확인했다. 이를 통해 AI가 목표 자체를 잘못 이해했을 때(보상 예측 오차)와 목표는 맞지만 행동 방식이 잘못됐을 때(상태 예측 오차) 뇌가 보내는 신호가 다르다는 것을 파악했다. 두 가지 오류가 동시에 발생했을 때 나타나는 뇌파 패턴도 달랐다. 연구팀은 이를 기반으로 딥러닝을 거쳐 AI가 뇌파만으로 사용자가 자신의 행동을 어떻게 받아들이는지를 구분할 수 있게 하는 기술을 개발했다. 사용자가 “목표가 틀렸다” “방법이 틀렸다” 등의 말을 하지 않아도 AI가 뇌파를 통해 그 반응을 읽어들일 수 있게 한 것이다.

카이스트 뇌인지과학과 서흔 박사과정생이 제1저자로 참여한 이번 연구 결과는 지난달 국제학술지 ‘IEEE 트랜잭션스 온 사이버네틱스’에 실렸다.

이종섭 기자 nomad@kyunghyang.com