"뇌파로 생각까지 읽는 시대"… '신경 데이터' 보호 필요성 제기
생성형 AI가 뇌 신호를 해독해 생각을 텍스트로 변환하는 기술까지 등장하면서, 인간의 뇌파 등이 새로운 보호 대상이 될 수 있다는 논의가 제기됐다. 다만 소비자용 신경기술에 대한 규제는 여전히 공백 상태여서 제도적 대응이 필요하다는 목소리가 나온다.
신경계 활동을 직접적으로 반영하는 신경 데이터(Neural data)는 개인의 정신적·신체적 건강 상태와 인지 과정을 보여주는 민감한 정보를 담고 있다. 최근 관련 투자가 늘고 기술이 비약적으로 발전함에 따라 뇌 스캔의 해상도가 높아지고 데이터셋의 규모도 커지고 있다. 특히 생성형 AI의 등장은 이러한 뇌 신호를 해독하는 능력을 한층 강화하는 추세다. 대표적으로 메타(Meta)의 AI 연구소(FAIR)는 1년 전 3단계 AI 모델링을 통해 뇌파 신호를 측정하고, 이를 바탕으로 생각을 텍스트로 변환하는 'Brain2Qwerty' 기술을 선보이기도 했다.
이런 추세가 정신적 프라이버시와 권리에 대한 위험을 높이는 상황에서, 신경기술 기업들에 이용자 보호 조치의 중요성을 촉구하기 위해 서울대 인공지능 정책 이니셔티브(SAPI)는 3월 17일 서울 신림동 서울대 로스쿨에서 첫 번째 SAPI 콜로퀴엄을 개최했다. 이번 콜로퀴엄은 서울대 법과경제연구센터·인공지능신뢰성연구센터와 함께 주최했다.
뉴로라이츠 재단(Neurorights Foundation)의 대표인 스티븐 다미아노스(Stephen Damianos) 박사가 'AI가 뇌를 만날 때, 글로벌 신경권 무브먼트의 현재와 미래(When AI Meets the Brain: The Global Neurorights Movement)'를 주제로 발표를 맡았다.
다미아노스 박사는 "신경 데이터는 단순한 생체 데이터가 아니"라며 "시간이 흐를수록 그 민감성이 증가하고 있다"고 말했다. 특히 "생성형 AI의 등장은 뇌 신호를 해독하는 능력을 한층 강화하고 있다"고 강조했다.
그는 "한국을 포함한 아시아 국가들은 소비자용 뉴로테크에 대한 명시적 프레임워크(Framework)가 부재하다"고 설명했다. 뇌수술 로봇, 간질 진단기 등 의료용 뉴로테크(Medical Neurotechnology)는 기존 건강 데이터 규제가 적용되지만, 웨어러블 기기나 게임용 BCI 등 소비자용 뉴로테크(Consumer Neurotechnology)는 대부분의 국가에서 규제의 사각지대로 남아 있다는 것이다.
이어 "플랫폼이 뇌의 신경 신호를 해석할 때, 그 결과값이 이용자의 정체성 및 주체성 형성에 영향을 미칠 수 있다"며 신경 데이터 보호의 필요성을 강조했다. 이용자는 기기를 통해 나타나는 주의력, 기분 등의 지속적 변화를 외부 영향이 아닌 '본래의 나'로 착각할 수 있으며, 이용자의 의도나 표현과 무관하게 신경 데이터를 통해 도출된 신경적 추론이 교육, 보험, 고용 등에서 '제도적 사실'로 작용해 개인을 규정할 수 있다는 것이다.
끝으로 다미아노스 박사는 "삼성의 뇌파(Electro Encephalo Graphy, EEG) 장치 등을 고려할 때 한국은 신경기술의 소비자일 뿐 아니라 생산자가 될 가능성이 높다"며 이용자의 정신적 프라이버시 보호와 소비자용 뉴로테크 간의 공백을 줄이기 위한 세 가지 방향을 제언했다. △수집 목적과 관계없이 신경 데이터를 '민감 정보'로 명시하는 개인정보보호법(PIPA) 개정 △신경 데이터를 처리하는 AI 시스템에 대한 명확한 분류 기준을 AI 기본법 하위법령으로 마련 △신경윤리 거버넌스를 규정하는 '뇌연구촉진법(Brain research promotion act)' 시행이다.
다미아노스 박사는 공공정책과 윤리, 기술 거버넌스 분야 전문가다. 현재 미국 컬럼비아대 신경기술센터 연구원으로 재직 중이며, 코넬대에서 윤리·공공정책을 강의하고 있다. 신경기술이 사회적 선을 위해 활용될 수 있도록 연구를 이어가고 있다. 이날 콜로퀴엄은 임용(사법연수원 32기) 서울대 로스쿨 교수가 사회를 맡았으며, 김현철 서울대 국제대학원 교수 등 30여 명이 참석했다.