양날의 검 ‘의료AI’…“적절한 규제 마련돼야” [2023 미래의학포럼]

‘2023 국민일보·쿠키뉴스 미래의학포럼’ 24일 개최
“의료AI, 개발·상업화·활용 단계에서 세심한 고려 필요”

김휘영 연세대학교 의과대학 의생명시스템정보학교실 연구교수가 24일 오전 여의도 국민일보 루나미엘레 컨벤션홀에서 열린 ‘2023 국민일보·쿠키뉴스 미래의학포럼’에서 ‘왓슨에서 챗GPT까지 의료 AI의 현재와 미래, 적용 가능성, 그리고 규제의 필요성’을 주제로 기조강연을 하고 있다.   사진=임형택 기자

“의료에서 혁신은 항상 양날의 검이다.”

김휘영 연세대학교 의과대학 의생명시스템정보학교실 교수는 24일 ‘디지털헬스케어의 발전과 규제, 합리적 개선방안’을 주제로 국민일보와 쿠키뉴스가 주최한 ‘2023 미래의학포럼’에서 이 같이 말했다.

김 교수는 ‘왓슨에서 챗GPT까지 의료AI의 현재와 미래, 적용 가능성, 그리고 규제의 가능성’이란 주제의 기조강연을 통해 최근 화제가 된 챗GPT(chat GPT) 같은 생성형 인공지능(AI) 챗봇이 의료 분야에 적용됐을 경우 대표적인 ‘양날의 검’이 될 수 있다며 적정한 규제가 마련돼야 한다고 했다.

AI 챗봇은 정보와 지식을 바탕으로 어느 정도 의학적 문제에 대한 추론이 가능해 보건의료 임상현장에서 유용하게 쓰일 수 있지만, 잘못된 데이터가 활용되면 전혀 다른 엉뚱한 답을 내놓을 수 있다는 우려가 있다.

김 교수는 “활용 가능한 의료데이터 수는 폭발적으로 증가하고 있다. 환자 한 명에게서 유전데이터, 마이크로바이옴 등 다양한 데이터를 뽑아낼 수 있다”며 “이 많은 자료를 통해 정확한 진단법과 치료 계획을 세우려면 의료 전문가만의 힘으로는 불가능해 계산기가 필요한데, 이 계산기가 바로 AI다”라고 말했다. 

이어 “AI 챗봇은 사용된 데이터와 의학적 지식을 기반으로 주어진 의학적 문제에 대한 답을 내놓을 수 있다”며 “게다가 일반적인 지식도 갖고 있기 때문에 여러 맥락에서의 의학적 추론이 가능하다”고 설명했다.

하지만 의료AI에 대한 적절한 규제는 꼭 필요하다고 했다. 안전성 때문이다. 김 교수는 “대규모 생성형 AI는 잘못되거나 편향적인 데이터를 학습했을 경우 스스로를 평가하고 개선할 수 없다”며 “AI 등 혁신기술은 의료에서 전에 없던 새로운 희망과 기회를 제공하기도 하지만 적절한 규제가 없다면 환자 안전성을 보장할 수 없다”고 경고했다. 

그러면서 “합리적인 규모의 모델 개발과 운영을 위해 의료AI 개발, 상업화, 활용 단계에서 보다 세심한 고려가 필요하다”며 “생성형 AI의 원리를 이해하고 논의하는 공론화의 장이 필요하다”고 강조했다.

신대현 기자 sdh3698@kukinews.com