“AI는 연구의 보조 도구… 판단·책임은 인간의 몫” [연중기획-더 나은 미래로]

표준희 제약바이오協 AI신약연구원장
“최우선 기준은 환자의 안전·존엄성
AI 신뢰, 데이터·검증 체계서 나와
인력·인프라 등 정부 지원 확대돼야”

“최종 책임은 결국 인간에게 있습니다.”

표준희(사진) 한국제약바이오협회 AI신약연구원장은 4일 세계일보와의 인터뷰에서 인공지능(AI)이 연구를 돕는 핵심 도구로 자리 잡더라도 최종 판단과 책임은 결국 인간에게 남는다고 했다. 표 원장은 “AI는 의사결정을 지원하는 도구이므로, 이를 선택하고 활용해 최종 판단을 내린 사람과 기관이 책임의 중심에 있어야 한다”면서도 “책임을 어느 한쪽에 전가하기보다는 각 주체의 통제 범위와 과실 정도에 따라 나누는 것이 좋을 것 같다”고 제안했다. 모델이나 데이터의 구조적 결함은 AI 개발사가, 결과에 대한 검증 부족은 연구자가, 개발·허가와 환자 적용에 대한 최종 책임은 제약사와 의료기관이 부담하는 게 바람직하다는 것이다.

표 원장은 현재 AI가 신약개발 전 과정에서 중요한 역할을 수행하고 있다고 설명했다. 과거에는 후보물질 발굴에 주로 활용됐다면 이제는 표적 발굴, 약효와 독성 예측, 바이오마커(단백질이나 핵산, 세포 등을 이용해 신체 변화를 알아낼 수 있는 생물학적 지표) 탐색, 환자군 선별, 임상시험 설계까지 활용 범위가 넓어졌다는 것이다. 표 원장은 다만 “AI는 계산과 탐색을 자동화할 수 있지만 연구의 목적을 설정하고 결과의 생물학적 의미와 임상적 가치를 판단하는 역할까지 대신하기 어렵다”며 “앞으로 연구자는 데이터를 생산하고 활용하는 동시에 AI가 제시한 결과의 오류와 불확실성을 검증하고 최종 의사결정을 내리는 감독자의 역할을 맡게 될 것”이라고 전망했다.

그는 반드시 지켜져야 할 연구 윤리와 관련, “검증되지 않은 AI 결과를 환자의 생명과 직결되는 결정에 그대로 적용해서는 안 된다는 것이 가장 중요하다”며 “환자 동의와 개인정보를 침해하거나, 불리한 결과와 불확실성을 숨기고 성과에 유리한 결과만 선택해서도 안 된다”고 힘줘 말했다. AI는 연구자의 책임을 대신하는 도구가 아니라 책임을 더 엄격하게 요구하는 도구이며, 모든 판단의 최우선 기준은 환자의 안전과 존엄성이라고 하면서다.

표 원장은 의료 AI의 신뢰도 제고를 위해 믿을 만한 데이터와 검증 체계 구축이 시급하다고 했다. 특정 인종이나 성별, 연령, 대형병원 환자 데이터에 편중된 AI는 의료 취약계층에서 정확도가 떨어질 수 있는 만큼, 대표성 있는 데이터 확보와 집단별 성능 검증, 실제 의료현장에서의 지속적인 감시가 반드시 필요하다는 것이다.

그는 정부가 제약바이오기업의 AI 전환(AX)도 적극 지원해야 한다고 했다. “제약바이오업계는 상대적으로 기업 규모가 영세하고, AI 기술 도입에 필요한 전문인력과 GPU(그래픽처리장치) 등 고성능 컴퓨팅 인프라를 자체적으로 확보하기 어려운 경우가 많아요. GPU 인프라 지원, 공동 활용 플랫폼 구축, AI 전문인력 양성 및 컨설팅 등 실질적인 AX 지원 정책이 마련된다면 산업 전반의 AI 활용과 신약개발 경쟁력 향상에 큰 도움이 될 것입니다.”

표 원장은 또 “규제기관이 개발 초기 단계부터 기업·연구자와 상담하고 지원하는 규제과학 체계를 마련해 안전성과 혁신이 충돌하지 않고 조화를 이룰 수 있도록 해야 한다”고 했다.

김희정 기자