“의료 AI가 인간 돕는 도구로 작용하도록 나침반 마련”

[And 건강]
첫 ‘의료AI 윤리 강령’ 주도
CMC 김대진 융합진흥원장

가톨릭중앙의료원이 지난 7일 국내 의료기관 최초로 제정한 '의료 인공지능(AI) 윤리 강령' 선포식에서 관련 영상을 선보이고 있다.

“의료 인공지능(AI)이 인간을 돕는 도구로써 올바르게 작동하도록 영적·윤리적 나침반을 마련했다는 데 큰 의미가 있습니다.”

AI는 의료와 산업, 금융, 법률 등 사회 전반에서 기술적 효용성과 잠재적 가치가 크게 기대되는 한편, 활용에 있어 윤리와 책무 또한 강조되고 있다.

이런 상황에서 국내 최대 의료기관 네트워크인 가톨릭중앙의료원(CMC)이 최초로 의료 AI 윤리 강령을 제정·선포해 주목받고 있다.

윤리 강령 제정을 주도한 CMC 정보융합진흥원 김대진(정신건강의학과 교수) 원장은 11일 국민일보와 인터뷰에서 “AI 전환(AX) 시대를 선도해야 한다는 사명감이 있다”면서 “이번 윤리 강령은 단순히 기술적 효율성을 높이는 것을 넘어 인간의 존엄성을 최우선 가치로 삼는 가톨릭 영성을 AI 기술에 녹여내기 위해 제정됐다”고 취지를 설명했다.

윤리 강령 제정을 주도한 김대진 의료원 산하 정보융합진흥원장.

김 원장은 “금융이나 산업 분야의 AI는 경제적 이득이나 효율이 우선일 수 있지만, 의료는 사람의 생명을 다룬다”면서 “AI가 질병을 진단하거나 치료 방향을 결정할 때 편향된 데이터를 학습하거나 알고리즘에 오류가 있다면 이는 곧 환자 생명과 직결된다”고 말했다. 예를 들어 특정 인종이나 계층의 데이터가 부족한 상태로 학습된 AI가 진단 불균형을 초래하거나 AI의 판단 결과에 대한 책임 소재가 불분명해지는 상황이 발생할 수 있다는 것이다.

현재 의료 AI는 특정 질병을 찾아내는 ‘분별적 AI’를 넘어 스스로 데이터를 생성하고 추론하는 단계까지 와 있다. 앞으로는 초거대 언어 모델(LLM)이 의료 현장에 깊숙이 침투할 것으로 예상된다. 김 원장은 “이 과정에서 환자의 개인정보보호와 데이터 주권 문제, 그리고 AI가 인간 의사의 공감을 대신할 수 없다는 인간 소외 현상이 윤리적으로 큰 화두가 될 것”이라고 내다봤다.

윤리 강령 제정은 로마 교황청과의 교감 속에 이뤄졌다. 근래 AI 기술이 가져올 미래에 대해 깊이 성찰하고 있는 교황청은 지난해 10월 바티칸에서 ‘AI와 의료인 윤리 세미나’를 열었다. CMC는 당시 ‘로마 콜(Rome Call for AI Ethics·2020년 발표된 교황청의 AI 윤리 백서)’이나 ‘옛것과 새것(AI의 올바른 사용 방향을 담은 문헌)’ 같은 가이드라인에 대한 논의를 접하면서 실제 의료 현장에서 작동하는 구체적인 AI 실천 강령을 만들어야겠다는 사명감을 절감했다. 이후 정보융합진흥원 연구자들과 생명대학원장을 포함한 태스크포스(TF)를 구성해 한국 실정에 맞는 윤리 강령을 완성했다.

김 원장은 “전 세계 가톨릭 의료기관 중 이처럼 구체적인 의료 전용 AI 윤리 강령을 성문화한 것은 CMC가 처음”이라며 “AI를 도입할 때 참고할 수 있는 글로벌 가톨릭 의료의 표준이 될 것”이라고 의미를 부여했다. 실제 지난 7일 진행된 선포식에서 정순택 천주교 서울대교구장이 해당 강령을 조반니 가스파리 주한 교황대사에게 직접 전달했다.

윤리 강령은 크게 인간 존엄성 보호, 의료적 책임성, 데이터의 투명성, 생명 중심의 기술 발전 등 4개 범주의 12개 항목으로 구성됐다. 모든 조항은 “AI가 인간의 자리를 대체하는 것이 아니라 의료진이 환자를 더 깊이 보살필 수 있도록 돕는 도구여야 한다”는 본질을 담고 있다.

이번 윤리 강령은 다른 분야를 포함해 정부가 마련 중인 국가 AI 전략 및 가이드라인에도 중요한 참고가 될 것으로 보인다. 과학기술정보통신부는 2020년 인간 존엄성, 사회 공공성, 기술의 합목적성 등 3대 원칙과 10대 세부 과제를 담은 ‘AI 윤리 기준’을 마련한 바 있다. 선포식에 참석한 이진수 과기부 인공지능정책기획관은 “이번 의료 AI 윤리 강령과도 많이 부합한다”면서 “현재 보건복지부 등과 함께 업그레이드 버전인 ‘AI 윤리 원칙’을 준비해 의견 수렴 중으로 조만간 공개할 것”이라고 밝혔다.

김대진 원장은 “의료 분야를 넘어 금융, 산업 등 전반에 ‘생명 존중’이라는 핵심 가치가 전파되는 계기가 될 것”이라며 “이 강령은 단순한 문서가 아니라 AI 기술이 아무리 발전해도 우리가 지켜야 할 마지막 보루는 결국 ‘인간’이라는 것을 세상에 선포하는 약속”이라고 강조했다.

글·사진=민태원 의학전문기자 twmin@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지