"AI 신약 개발, 아직 신뢰성 한계…인간주도관리·책임성·투명성 중요"

제7회 AI 파마 코리아 콘퍼런스 개최
"AI 활용시 환자 안전·데이터 완전성 등 안전장치 필요"

김소희 식품의약품안전처 의약품심사부 순환신경계약품과 과장이 'AI 파마 코리아 콘퍼런스'에서 발표를 하고 있다. 2024. 10. 31/뉴스1 황진중 기자

(서울=뉴스1) 황진중 기자 = "인공지능(AI)을 활용하면 의약품 개발을 안전하고 효과적으로 할 수 있는 것으로 대부분 알려졌습니다. 그러나 이는 데이터에서 유추한 예측 결과이므로 신뢰성 등에서 한계가 있을 수 있습니다. 환자 안전, 개인 정보 등에도 문제가 생길 수 있어 주의가 필요합니다."

김소희 식품의약품안전처 순환신경계약품과 과장은 31일 서울 소공동 롯데호텔에서 열린 제7회 인공지능(AI) 파마 코리아 콘퍼런스에서 '의약품 개발 시 AI 활용과 관련된 규제 현황' 주제발표를 통해 이같이 말했다.

앞서 식약처는 지난 6월 '의약품 개발 시 AI 활용 안내서'를 제작해 배포했다. 안내서에 따르면 신약 개발 중 후보물질 발굴, 비임상시험, 임상시험 단계에서 AI·기계학습(ML)·데이터를 활용할 수 있다. 해당 내용은 아직 확정된 원칙은 아니다.

이날 발표에 따르면 우선 AI·ML 신약 개발은 데이터에 기반을 두고 연구 결과 등을 예측하므로 '비뚤림'(bias), 신뢰성 등에 있어 주의가 필요하다. 또 환자 안전과 데이터 완전성, 개인정보보호 등을 위한 안전장치 등에도 주의를 기울여야 한다.

신약 개발 등을 위해 임상시험 연구를 통해 확보된 방대한 데이터를 분석할 때 AI·ML을 활용할 수 있다. 이는 또 후보물질의 안전성과 효과를 평가하는 데 활용될 수 있다. 분산형 임상시험과 실사용데이터(RWD) 임상을 설계할 때 정보를 제공받을 수 있다.

다만 AI·ML을 임상시험 등에 사용할 시 의약품 임상시험 관리기준(GCP)에 따라 실시하는 것이 필요하다. 또 AI·ML이 임상을 목적으로 생성된 경우 전체 모델 구조와 모델링 로그, 검증·테스트, 훈련 데이터 등 관련 자료가 임상 자료, 계획서 일부에 포함될 수 있다.

김소희 과장은 "AI·ML을 임상에 활용할 때 대상자의 안전에 영향을 미칠 수 있는 경우 주의가 필요하다"면서 "해당 단계에서 데이터가 규제적 관점에서 상당한 영향이 있을 수 있다고 판단될 경우 개발 초기 단계부터 식약처와 논의하는 것이 필요하다"고 말했다.

AI 신약 개발 등 디지털 의료 제품과 관련한 세부 시행령 등은 곧 마련될 전망이다.

국회는 지난해 12월 디지털의료제품법을 통과시켰다. 이 법은 디지털 의료 제품. 디지털 헬스 기술을 이용한 의료기기와 의약품에 적용된다. AI, 빅데이터 등을 활용된 제품의 안전성 등을 확인하기 위해 임상시험, 허가, 제조, 시판후조사 등 전 주기에 걸친 규제다. 하위 법령으로 7월에 시행령 등을 입법예고한 상태다.

김 과장은 "인간 주도 관리와 신뢰 기반 AI, 책임성과 투명성이 중요하다. 또 데이터 관리에 있어 데이터 품질, 신뢰성, 대표성에 주의가 필요하고, 모델 관련해서는 모델 개발, 성능, 모니터링 밸리데이션 등이 중요하다"면서 "개발 중인 의약품이나 의료기기가 안전하고 효과적이라는 과학적인 증거가 충분히 필요하다. 이 데이터를 만들 때 AI를 활용할 수 있는 것"이라고 강조했다.

한편 이번 콘퍼런스는 'AI 기술 대격변의 시대: 신약 개발의 혁신'을 주제로 AI 신약 개발의 현재와 미래를 조망하고, 산·학·연, 글로벌 협력에 대한 방안을 모색하고자 마련됐다.

jin@news1.kr