“AI 주치의? 인터넷 검색만도 못해”…진단 실패·수술 실수 잇따라

자가 진단 정확도 34% 불과
AI 의료기기 사고 신고 급증

[챗GPT]

글로벌 빅테크들이 ‘인공지능(AI) 주치의’ 기능을 강조하며 헬스테크 고도화에 주력하고 있지만 사실상 인터넷 검색 수준에도 미치지 못하는 것으로 나타났다. 심지어 의료 현장에 도입된 의료기기도 오작동을 일으키면서 AI 만능주의에 경고등이 켜졌다.

22일 연합뉴스에 따르면 최근 영국 옥스퍼드대 연구진은 국제학술지 네이처메디신에 주요 AI 챗봇과 기존 검색엔진을 이용한 건강 상태 자가 진단 실험을 진행해 AI의 의학적 유용성을 분석한 논문을 게재했다.

이 실험의 참가자는 성인 1300명이었다. 연구진은 참가자들에게 두통과 담석증 등 10가지 시나리오를 부여하고 오픈AI의 GPT-4o, 메타의 라마3, 코히어의 커맨드R+ 중 하나로 자가 진단을 지시했다. 대조군은 구글로 대표되는 기존 인터넷 검색이었다.

실험 결과 AI 챗봇이 참가자의 질환명을 정확히 식별한 비율은 34.5%에 그쳤다. 10명 중 3명꼴이다. 병원 방문·응급차 호출 등 올바른 대처법을 제안한 비율도 44.2%에 불과했다. 검색엔진을 대체하기 불가능했다.

연구진은 소통의 어려움을 원인으로 지목했다. 실제로 뇌출혈을 유발하는 지주막하출혈에 대해서 참가자가 “끔찍한 두통”이라고 언급하자 AI 챗봇은 “어두운 방에 누워 있으라”는 부적절한 답변을 내놨다. 하지만 참가자가 “인생 최악의 두통”이라고 전달하자 AI 챗봇은 “당장 병원에 가라”고 조언했다. 환자가 어떤 단어를 선택해 증상을 설명하느냐로 생사가 갈릴 수 있었다.

논문의 공동 저자인 레베카 페인 박사는 “지금으로써는 AI가 의사의 역할을 맡을 준비가 전혀 돼 있지 않다”라며 “환자들이 AI 챗봇에 의존하는 것이 위험한 행위일 수 있다는 사실을 인지해야 한다”고 말했다.

[연합뉴스]

이 같은 안정성 우려는 상담실을 넘어 수술실로 확산하고 있다. 존슨앤드존슨의 자회사 애클래런트가 개발한 부비동 수술용 내비게이션 ‘트루디’는 지난 2021년 AI 기능을 추가한 이후 오작동 신고가 100건 이상 접수됐다. AI 기능 추가 이전 3년간 신고 건수는 7건에 불과했던 것과 비교하면 급격히 늘었다.

미국식품의약국(FDA)에 제출된 보고서에 따르면 AI가 수술 도구의 위치를 잘못 안내하는 바람에 환자의 두개골 기저부가 뚫리거나 뇌척수액이 유출되고 동맥이 손상돼 뇌졸중이 발생하는 등 심각한 의료 사례가 보고됐다. 다만 애클래런트를 인수한 라이프사이언스는 트루디 사용과 의료 사고의 인과관계를 입증할 만한 증거가 없다는 입장이다.

소비자용 AI 의료 애플리케이션의 허위·과장 광고도 빈축을 사고 있다. 의사를 가장한 AI가 암을 양성으로 오진하거나 가벼운 질환을 암으로 판단해 혼란을 부추겼다. 구글과 애플은 뒤늦게 문제의 앱들을 앱 마켓에서 삭제 조치했다.

그럼에도 AI 헬스케어 시장은 지속 확대될 전망이다. 그랜드뷰리서치의 데이터를 확인하면 글로벌 AI 헬스케어 시장은 지난해 234억달러(약 33조원)에서 오는 2032년 4310억달러(약 624조원) 규모로 성장할 것으로 관측된다.

오픈AI와 앤트로픽, 아마존 등 내로라하는 빅테크들도 AI를 활용한 건강관리 도구들을 출시하며 헬스케어 경쟁에 참전했다. 정보기술(IT)업계에서는 기업 차원에서 기술적 신뢰성과 윤리적 책임관을 확보해야 한다는 제언이 나온다. 의학계에서는 의료 사고 발생 시 책임 소재를 가릴 제도적 장치가 미비한 실정이라며 국가 차원의 엄격한 지침·정책 마련의 필요성을 주장하고 있다.