갈길 먼 보건의료 AI 활용…신뢰성·안전성 발목

국립보건연구원, ‘인공지능 윤리연구 지침’ 발간
AI 환각 효과 등 우려…확인·검증 단계 필요
“사회 공론화 과정 거쳐 활용 원칙 세워야”
정부, AI 연구 개발 및 활성화 지원 계획

쿠키뉴스 자료사진

챗GPT(chat GPT) 같은 생성형 인공지능(AI) 챗봇을 보건의료 연구에 활용할 수 있을까. 결론부터 말하자면 곧바로 활용하기엔 아직 한계가 있다. 안전성과 신뢰성이 뒷받침되지 못하기 때문이다. 전문가들은 AI 챗봇이 여러 의학 정보와 지식을 두루 익히고, 의료 전문가의 피드백을 통해 보완된다면 다양한 의료 분야에서 효과적으로 활용할 수 있을 거라고 말한다.

20일 의료계에 따르면 최근 질병관리청 국립보건연구원(이하 연구원)은 ‘보건의료 분야 인공지능 윤리 연구 지침’을 발간했다. 이 지침에는 연구자들이 책임 있는 AI 연구를 할 수 있도록 연구 설계부터 데이터 생성, 모델 개발, 검증·평가, 적용과 사후 점검 등 전 과정에 대한 윤리적 기준이 소개됐다.

지침은 AI 챗봇을 보건의료 분야에 활용하려면 우선 신뢰성을 확보해야 한다고 했다. 초거대 언어모형에 기반을 둔 챗봇이 잘못된 정보를 그럴듯하게 제시해 사람들을 속아 넘어가게 하는 ‘환각(hallucination) 효과’를 낼 수 있다는 것이다.

AI 챗봇은 실제 존재하지 않는 것을 마치 사실인 양 답하는 경우가 많은데, 기술업계에선 이를 ‘AI 환각’이라고 부른다. 이 때문에 챗봇을 보건의료 영역에 적용하기 위해선 투명성 등을 확보해야 한다는 게 지침의 골자다. 챗봇이 답을 내놓으면 그 답이 맞는지 확인하고 검증하는 단계를 거쳐야 한단 진단이다.

지침은 AI 활용 과정에서 검토가 필요한 윤리적 원칙으로 투명성(신뢰성)을 비롯해 △인간의 자율성 존중과 보호 △인간의 행복, 안전과 공공의 이익 증진 △책무(법적 책임) △포괄성, 공정성 △지속 가능성 등 6가지를 제시했다. 이와 함께 응급상황에서의 AI 활용과 안전성, 챗봇의 환각 효과, AI와 인종 편향, AI 기술이 가져올 의료인 고용환경 변화 등에 대한 설명도 담았다.

전문가들은 임상연구 등 보건의료 현장에 AI를 접목시키는 일이 까다롭고 활용하는 데까진 갈 길이 멀다고 봤다. 이어 사회 공론화 과정을 통해 바람직한 활용 원칙을 세워야 한다고 제언한다.

서울아산병원 빅데이터 연구센터와 임상연구 보호센터 담당 교수이기도 한 유소영 대한의사협회 정보통신이사는 “의학은 텍스트, 이미징, 유전체 등을 아우르는 풍부한 데이터 양식을 갖춘 분야라는 점에서 범용 인공지능에 가까운 챗GPT 등 AI 챗봇 모델은 중요한 의미를 지닌다”며 “AI 챗봇은 대규모 의학 지식을 한꺼번에 배울 수 있고 이를 다양한 의료 분야에 활용할 수 있다”고 말했다.

그러면서 “여러 연구를 종합하면 임상현장에서 AI 챗봇을 적용한다고 해서 그 결과가 인간보다 동등하거나 월등하진 않았다. AI의 실용성 여부는 의료 전문가들이 AI가 내놓은 답을 얼마나 신뢰할 수 있는가에 달려있다”며 “임상현장에서 의료 전문가의 평가와 감독 없이 챗GPT를 사용하는 것은 한계가 있다는 뜻이다”라고 설명했다.

의료 분야에서 AI의 안전성과 신뢰성을 담보하기 위해선 결국 의료 전문가의 역할이 중요하다고도 했다. 유 이사는 “챗GPT가 이전의 생성형 AI와 다른 점 중 하나는 인간의 피드백을 통해 점차 학습을 강화한다는 것”이라며 “앞으로 윤리적이고 과학적인 의료 AI를 만들기 위해 의료 전문가의 피드백을 통한 디자인이 필요하다”고 강조했다.

더불어 챗GPT가 학습한 보건의료 데이터의 원작자 권한 등을 침해할 수 있는 문제도 고려돼야 한다고 했다. 유 이사는 “챗GPT가 임상현장에서 큰 가치를 지니게 될 경우 학습한 보건의료 데이터 주인의 권리 등이 침해될 수 있으며 이는 향후 큰 논쟁거리가 될 것”이라면서 “AI 챗봇에 입력하는 질문을 제대로 개발하고 사회적 공론화를 거쳐 사용 원칙을 마련하는 것이 바람직하다”고 전했다.

한편 정부는 올해 하반기 중 지침에 기반한 AI 윤리 교육 프로그램을 운영할 예정으로, 지침을 보완하고 발전시켜나갈 계획이다. 지영미 질병관리청장은 “앞으로 질병 관리에 인공지능 기술이 선도적으로 적용될 수 있도록 인공지능 연구 개발을 적극 지원하고 연구 활성화를 위해 노력하겠다”고 밝혔다.

신대현 기자 sdh3698@kukinews.com