英 NHS 의료기기·AI 시스템 “편향된 데이터로 소수집단 피해”[통신One]

맥박산소측정기, PRS, 흉부 엑스레이 주요 사례 제시
“사회 편견과 불공정성 AI 기반 의료기기 전 단계 반영돼”

(런던=뉴스1) 조아현 통신원 = 영국 국민보건서비스(NHS) 산하 의료기관에서 사용하는 일부 의료기기와 인공지능(AI) 시스템이 특정 인종과 비주류 계층에 차별적인 결과를 내놓기 때문에 즉각적인 전체 시스템 점검이 필요하다는 보고서가 나왔다.

11일(현지시간) 영국 보건복지부가 발표한 의료기기 형평성 보고서와 BBC 등에 따르면 영국 NHS가 사용하는 의료기기 설계와 사용 과정에서 인종이나 소수민족, 특정 집단에 대한 편견이 반영된 정황이 발견됐다.

이 때문에 특정 인종이나 집단이 최적의 치료를 받지 못한다는 증거가 제시됐다.

피부색이 어두운 사람의 경우 맥박산소측정기의 정확도가 떨어지고 산소 포화도가 위험한 수준까지 저하되는 현상을 기기가 발견해내기 어렵다고 보고서는 지적한다.

특히 AI를 사용하는 기기는 피부가 어두운 사람의 피부암 가능성을 과소평가할 수 있다고 경고했다.

지난 2022년 영국 보건복지부의 의뢰를 받아 진행된 이번 연구 조사 보고서는 18가지 개선사항을 정부에 권고한다.

보고서에는 환자에게 위해를 가할 가능성이 있는 맥박산소측정기, 다유전자성 위험점수(PRS), 흉부 엑스레이등 3가지 유형 사례들을 면밀히 조사한 내용이 담겼다.

특히 맥박산소측정기와 같은 의료용 광학기기는 환자 피부에 광파를 전송하는 방법으로 혈액 내 산소 수준을 추정한다. 하지만 의료기기에서 나오는 빛이 피부톤에 따라 다르게 작동한다는 사실이 이번에 발견됐다.

의료기관은 맥박산소측정기로 환자의 입원이나 치료 여부를 판단해왔는데 손가락에 끼우는 이 장치가 피부색이 어두운 사람들의 혈중 산소 농도를 과대 평가하는 경향이 있는 것으로 나타났다.

해당 기기는 대부분 밝은 피부색을 가진 참가자들을 대상으로 실험하고 오류를 개선할 때도 실험 참가자들을 대상으로 진행되기 때문에 상황은 갈수록 악화됐다고 보고서는 지적했다.

피부색이 어두운 사람일수록 피부암 진단이 과소 평가될 가능성도 제기됐다. AI 기반 의료기기가 주로 밝은 피부톤을 가진 사람의 이미지를 학습했기 때문이다.

흉부 엑스레이 판독 과정에 사용하는 AI 시스템이 여성보다 폐 용량이 더 큰 남성 이미지를 주로 학습한 점도 우려해야 할 주요 사례로 제시됐다.

이는 잠재적으로 여성의 심장 질환을 축소 진단해 장기간 진행된 질병을 악화시킬수 있는 것으로 파악됐다.

또한 다유전자성 위험점수(PRS)는 여러가지 유전자 검사 결과를 결합해 개인의 질병 위험을 추정하는 수치인데 그동안 연구 목적으로 자주 사용돼 왔다.

보고서는 다유전자성 위험점수를 사용해 환자의 질병 위험을 예측할 때 유럽 혈통 인구 비율이 압도적으로 높은 데이터를 기반으로 하기 때문에 다른 배경을 가진 환자들에게는 결과가 적용되지 않을 수 있다는 문제점을 제기했다.

이번 연구조사 프로젝트 책임을 맡은 리버풀대학교의 마가렛 화이트헤드 교수는 "전반적인 (AI 의료기기) 시스템 전체에 대한 조치가 필요하다"고 강조한다.

그는 "의료기기에서 AI의 발전은 큰 이점을 가져올 수 있지만 특정 집단, 특히 여성, 소수 민족, 사회경제적 약자에 대한 내재적 편견으로 인해 피해를 가져올 수 있다"고 우려했다.

그러면서 "이번 연구는 사회의 기존 편견과 불공정성이 AI 기반 의료기기가 작동하는 모든 단계에 부지불식간에 반영되고 그 이후에는 알고리즘 개발과 머신 러닝에서 어떻게 확대되는지를 보여준다"고 했다.

NHS 산하 인종 건강 관측소 최고 책임자인 하비브 나크비 교수는 "보다 나은 건강에 대한 접근성이 인종이나 피부색에 의해 결정되서는 안 된다"며 "의료기기는 모든 집단에 적합한 것이어야 한다"고 말했다.

tigeraugen.cho@gmail.com

국제