"의료용 AI, 수백만 명 건강 해칠 것… 개발 중단해야"

미국·영국·호주 등 5개국 보건학자 논문 발표
"AI 오진 가능성... 실직 관련 질병 유발 위험도"
보건·의료계 "의료용 AI 규제 정책 필요" 강조

인공지능(AI) 기술의 급격한 발전과 함께 우려의 목소리도 커지는 가운데, 이번엔 보건·의료계에서 경고음이 울렸다. 생체 정보를 정확히 파악하기엔 아직 부족한 카메라 기술 및 데이터베이스(DB)에 기반해 구동하는 의료용 AI가 오진 등으로 인류 건강에 부정적 영향을 미칠 가능성이 결코 작지 않다는 취지다. 적절한 규제의 틀이 마련될 때까지 일단은 의료용 AI 개발을 중단해야 한다는 얘기다.

"AI 오진 사례... 대규모 실직도 잠재적 위험"

영국의 한 시민이 의료용 인공지능 시스템에 기반한 맥박·산소포화도 측정기로 수치를 재고 있다. 가디언 캡처

9일(현지시간) 영국 가디언에 따르면, 영국·미국·호주·코스타리카·말레이시아의 보건학자들은 'BMJ 글로벌 헬스 저널'에 발표한 논문을 통해 "(의료용) AI가 수백만 명의 건강을 해칠 수 있고, 인류에 실존적 위협을 가할 수 있다"고 경고했다. 그러면서 "(실효적인) 규제가 이뤄질 때까진 (의료용) AI 개발을 멈춰야 한다"고 촉구했다.

주요 근거는 의료용 AI가 환자들에게 직접적인 보건·의학적 피해를 입힐 가능성이 크다는 점이다. 대표적 사례로는 AI에 기반한 '맥박·산소포화도 측정기'가 제시됐다. 이 장비에 탑재된 카메라의 불완전성 탓에 AI가 짙은 색 피부를 가진 환자의 혈중 산소농도를 실제보다 높게 측정하고, 결국엔 저산소증 피해로 이어지는 일이 발생하고 있다는 것이다. 학자들은 "이런 현상은 AI 구동의 토대가 되는 DB가 충분하지 않으며, 현재의 AI 시스템이 여전히 불안하다는 걸 보여 준다"고 지적했다.

AI 등장으로 예상되는 대규모 실직도 인류의 정신적·신체적 건강을 크게 위협할 요인으로 꼽혔다. 학계에선 지금의 AI 개발 속도가 유지되면, 향후 10년 사이에 최소 수천만, 최대 수억 개의 일자리가 사라질 것으로 본다. 실직 스트레스에 시달리거나 실제로 직장을 잃을 경우, 과체중·우울증 등을 겪을 수 있고, 심지어는 불법 약물에 의존하게 될 수도 있다는 것이다. 학자들은 "세계는 아직 대규모 실직 사태에 대한 심리·정서적 대처 및 (의학적) 반응 방식을 알지 못하는 반면, AI 연구·개발은 급속히 늘어나고 있다"며 "피해 예방을 위한 기회의 창이 닫히고 있는 것"이라고 우려했다.

의료계도 동의… "AI 규제 법안 만들라" 촉구

논문은 "의료용 AI가 보편화되기 전에 인류가 먼저 효과적인 규제의 틀을 만들어야 한다"는 결론으로 마무리됐다. 의료 시스템의 미래를 보호할 방법은 의료용 AI 개발 회사가 플랫폼상 건강 정보 오류를 100% 식별하는 체계를 갖추도록 정책이 미리 규제하는 것뿐이라는 뜻이다.

영국 의료계도 동의했다. 영국 왕립 일반 의사 대학(RCGP)과 심장재단(BHF)은 해당 논문 저자들과 함께 클로이 스미스 영국 과학혁신부 장관에게 최근 공동 서한을 보냈다고 가디언은 전했다. 서한에는 "영국 정부가 AI의 잘못된 건강 정보를 조정할 수 있는 방법과 의무를 추가한 법안을 즉시 만들어야 한다"는 내용이 담겼다.

정재호 기자 next88@hankookilbo.com

한국일보

국제