"허가 후에도 진화하는 의료AI, 낡은 규제 틀 적합치 않아"

의료 인공지능(AI)을 나타낸 이미지. 게티이미지뱅크 제공

의료 인공지능(AI)이 빠르게 병원 현장에 도입되고 있지만 현행 미국 식품의약국(FDA)의 승인 체계만으로는 기술의 안전성을 충분히 확보할 수 없다는 주장이 제기됐다.

10일 국제학술지 '네이처'에 따르면 학계에선 FDA의 현행 규제 체계가 의료 AI의 빠른 발전 속도와 정교한 기술력에 비해 지나치게 단순하다는 지적이 나오고 있다. 

레오 앤서니 설리 미국 메사추세츠공대(MIT) 수석연구원 연구팀은 최근 국제학술지 '플로스 디지털 헬스'에 발표한 보고서를 통해 의료AI를 적합하게 규제하려면 FDA와 독립된 평가 체계가 필요하다고 주장했다.

현재까지 FDA 승인을 받은 의료 AI 제품은 1000건이 넘는다. 영상 판독, 중증환자 분류, 진단 지원, 임상기록 자동작성 등 다양한 용도로 사용된다. 

AI 제품은 일반적인 의료기기와 달리 승인을 받은 이후에도 새로운 데이터로 재훈련되거나 알고리즘이 업데이트된다. 지속적인 감시와 평가가 필수적인 것이다. 연구진은 “FDA가 승인 이후에 모든 안전점검을 감당하기는 현실적으로 불가능하다”고 지적했다.

기존 의료 AI 승인 체계가 느슨하다는 지적도 제기된다. 연구진에 따르면 현재 FDA는 환자에게 위험한 영향을 미칠 가능성이 높은 일부 제품에만 임상시험을 요구하고 있다. 승인 기준도 의약품에 비해 상대적으로 낮다. 제품 개발 과정에서 AI 학습에 사용된 집단과 다른 환자군에 적용될 경우 AI 성능이 저하될 가능성도 있다. 일반적인 의료기기처럼 FDA 승인만으로 실제 의료현장에서 환자의 안전성을 완전히 담보하기 어렵다는 것이다.

연구진은 의료기관이 자체적으로 AI 도구의 성능을 검증하도록 교육해야 한다고 강조했다.

대학과 병원이 협력해 병원 정보통신기술(IT) 부서 지원, 데이터 준비, 알고리즘 평가, 임상 효과 모니터링 등을 수행하는 새로운 평가 체계를 구축해야 한다고 제안했다. 기존 의료 인프라로는 AI 기술의 빠른 진화를 따라잡기 어렵다는 판단에서다. 또 대부분의 병원과 의원은 이를 수행할 AI 전문 인력을 보유하고 있지 않으며 상당수는 시판 제품을 ‘그대로 도입’해 사용하는 실정이라고 꼬집었다.

FDA의 법적 권한으로는 병원의 '사후 안전관리 체계'가 검증될 수 없다는 점도 지적된다. 미셸 멜로 스탠퍼드대 교수는 “이런 역할은 FDA가 아닌 다른 기관이 맡아야 한다”며 공공의료보험 프로그램을 운영하는 연방 기관 메디케이드서비스센터(CMS) 등이 의료AI를 관리하는 역할을 수행할 수 있다고 설명했다.

보험회사가 AI 도구의 보장 여부를 결정하는 과정에서 보다 엄격한 근거 기준을 요구해 안전장치 역할을 수행할 수 있다는 점도 언급됐다. 데이비드 오양 미국 시더스시나이 메디컬센터 교수는 “보험 적용을 위한 증거 기준이 FDA 승인보다 더 엄격한 경우도 있다”며 "보험사가 의료 AI의 또 다른 안전 확보 수단이 될 수 있다"고 덧붙였다.

<참고 자료>
- doi.org/10.1038/d41586-025-01748-y

[박정연 기자 hesse@donga.com]