의료 AI가 건강 불평등을 더 악화시킬 이유[PADO]

[편집자주] 챗GPT로 촉발된 전세계적인 인공지능 열풍 속에서 PADO는 보다 신중한 입장을 취하는 글들을 주로 소개하고 있습니다. 이번에 소개하는 글은 로체스터공과대학교 철학과 교수 에반 셀린저가 미국 온라인 매거진 슬레이트에 지난 3월 29일 기고한 것으로, 특히 테크 분야에서 횡행하는 '솔루션주의'를 비판합니다. PADO가 일전에 소개한 제이컵 브라우닝과 얀 르쿤의 'AI와 언어의 한계'는 현재의 대형언어모델 기술이 진정한 '지성'을 만들기에는 기술적 한계가 있다고 지적한 반면, 셀린저 교수의 글은 AI 같은 기술이 아무리 발달하더라도 정치적, 사회적 문제를 해결하는 데는 한계가 있다는 지적입니다. 사회는 결국 사람들 사이의 복잡한 관계로 이루어진 것이고 여기서 발생하는 문제는 제아무리 최첨단의 기술이라도 일거에 해결하기가 어렵다는 것이죠. 셀린저 교수가 아래 글에서 주로 언급하는 의료 AI의 사례를 읽어보시면 그 논지를 금방 이해하실 수 있으리라 생각합니다. 아래의 글은 원문을 요약 소개한 것으로, 전문 번역은 PADO 웹사이트에서 읽으실 수 있습니다.

작년 가을부터 챗GPT나 DALL-E 2 같은 생성AI 앱들이 등장하면서 최신의 인공지능 제품이 많은 사람들의 환호와 투자를 일으키고 있다. 하지만 이런 최신 제품들이 제시하는 사용 방법들을 보면 존재하는 문제에 대한 해법이라기보단 이미 존재하는 해법을 가지고 이걸 써먹을 수 있는 문제를 찾는 것처럼 느껴지는 이유가 있다. 바로 '솔루션주의(solutionism)'이다.

기술 비평가 에브게니 모로조프가 창안한 어휘인 '기술적 솔루션주의'는, 복잡한 딜레마의 핵심 문제들을 보다 단순한 공학적 문제들로 환원시키면 그 딜레마를 해결, 또는 완화하는 데 큰 진전을 이룰 수 있다는 착각에 기반한 믿음이다. 솔루션주의는 세 가지 이유로 매혹적이다. 첫째, 심리적으로 안심을 준다. 이 복잡한 세상에서 어려운 문제를 쉽고 간단하게 해결할 수 있다고 믿으면 기분이 좋다. 둘째, 기술적 솔루션주의는 재정적으로도 매력적이다. 자원이 한정된 세상에서 어려운 문제를 한 방에 해결할 수 있는 해법을 적당한 (또는 저렴한) 가격에 제시한다. 셋째, 기술적 솔루션주의는 혁신에 대한 낙관주의를 강화한다. 특히 문제 해결을 위해 공학적으로 접근하는 게 사회적, 정치적 해법을 추구하는 것보다 더 효과적이라는 기술관료적 사고방식에 잘 부합한다.

하지만 듣기에 너무 그럴싸해서 찜찜하다면(구린 드라마에 새로운 엔딩이라니!) 보통 사실이 아니라는 걸 우린 잘 안다. 솔루션주의가 실제로 작동하지 않는 까닭은 문제를 잘못 제시하고 또한 그 문제가 왜 발생하는지를 오해하기 때문이다. 솔루션주의자는 매우 중요한 정보를 무시하거나 과소평가해서 이런 실수를 하는데 보통 이런 중요한 정보는 맥락에 관한 것이다. 맥락에 관한 정보를 얻으려면 관련된 지식과 경험이 있는 사람들을 찾아 그들이 하는 말에 귀기울여야 한다.

이제 솔루션주의는 AI의 허풍 잔치의 일부가 됐다. 새로운 AI 제품들이 우리가 일하고 어울리고 노는 방식에 지대한 영향을 미치리라는 데에는 의심의 여지가 없다. 하지만 우린 지금 과장광고의 홍수 속에 익사 직전이다. 심지어 미국 연방통상위원회(FTC)도 나서 AI 제품이 할 수 있는 것에 대한 과장광고에 우려를 표했다. "오늘날 장난감부터 자동차, 챗봇까지 많은 제품들에 대한 AI 과장광고가 이뤄지고 있습니다." FTC가 성명에서 한 말이다.

오픈AI의 CEO 샘 알트만이 쓴 다음 트윗을 읽어보라. "이러한 도구들은 우릴 보다 생산적(이제 이메일 쓰는 데 시간 좀 덜 쓰고 싶네요!)으로, 보다 건강하게(치료를 받을 돈이 없는 사람들을 위한 AI 의료 어드바이저), 보다 똑똑하게(챗GPT로 학습하는 학생들), 그리고 더 재미있게(AI로 만드는 밈 ㅎㅎㅎ) 만들 겁니다."

다행스럽게도 의료 연구와 진단 분야에서 AI를 통해 여러 가지 촉망되는 진전이 있었다. 그러나 AI 의료 어드바이저가 "치료를 받을 돈이 없는" 사람들에게 도움이 되리라는 생각은 좋게 말하면 과장이고 나쁘게 말하면 비현실적이다. 알트만의 말을 최대한 좋은 뜻으로 해석해서, AI 의료 어드바이저가 일부 의료 분야에서 양질의 조언을 지속적으로 제공할 수 있는 날이 온다고 치자. 그렇다하더라도 회의적일 수밖에 없는 이유는 많다.

첫째, 벤저민 메이저 존스홉킨스대 병리학 교수에 따르면 AI의 발전은 의료 비용의 상승으로 이어질 소지가 크다. AI가 발전해 각종 물리적 검사를 실시하고 진료 이력과 증상을 면밀히 분석할 수 있게 될 경우, 메이저 교수는 미국 의료업계가 각각의 진단과 분석을 개별 상품으로 분류해 각각에 대한 비용을 개별적으로 부담하게 할 것이라 본다. AI를 진단 자판기로 만드는 걸 넘어, 메이저 교수는 AI 시스템이 값비싼 검진과 수술을 더 많이 추천하게 되면서 "의료가 폭포수처럼 쏟아질 것"으로 예상한다. 여기에는 "불필요하고 우려되며, 때때로 해로운" 의료 조치도 포함된다. 한마디로 의료 자동화가 발달하면 의료비는 스멀스멀 상승할 가능성이 매우 높다.

둘째, 의료 조언을 받더라도 그걸 실행하지 못하면 무슨 쓸모가 있을까? 진단과 수술 비용 뿐만 아니라 약제, 각종 요법(물리치료 등), 건강한 식습관 등 의료적 문제를 해결하는 데 필요한 통상적인 대응책은 모두 값비싼 것들로, 의료비를 감당할 수 없는 사람들이 겪는 문제가 바로 여기서 나온다. 대체 어떻게 챗봇이 이 중 어느 하나라도 저렴하게 만들 수 있는지는 분명치 않다. 셋째, 심지어 AI의 의료 조언을 실행하는 데 비용이 그리 들지 않더라도 그 결과는 각기 다를 것이다. 예를 들어 어떤 사람들은 AI 기반 인지행동치료가 도움이 된다고 판단하는 반면, 다른 사람들은 진정으로 공감(이를 흉내낼 수 있을 뿐인 AI와는 다른)하고 지속적인 확인을 통해 목표를 달성할 수 있도록 도와주는 인간 치료사를 선호한다. 이런 상황에서 형편이 여의치 않은 사람들은 시원찮은 AI 로봇 치료나 받아야 할 수 있고 재정적 여력이 되는 사람들은 자신들이 선호하는 인간 진료를 받을 수 있을 것이다. 전자의 경우는 AI를 불평등을 더 악화시키는 것으로 보지, 뭔가를 해결하는 걸로 보지 않을 것이다.

그럼 학생들이 챗GPT로 학습해서 더 똑똑해질 수 있다는 알트만의 주장은? 몇몇 학생은 수업에서는 이해하지 못했던 내용을 챗GPT에게 물어 학습을 더 용이하게 하고 있지만 한편으로는 AI가 학교를 공황 상태로 만들고 있기도 하다. 교사들은 표절이 더 손쉬워지고 적발하긴 더 어려워진 상황에서 어떻게 점수를 매겨야 할지 씨름하고 있다. 게다가 효과적인 교육 정책을 개발하기란 더 어려워지고 있다. 특히 챗봇이 빠르게 발달하면서 교육법이나 절차의 유효기간이 더 짧아졌기 때문이다. 종합적으로 볼 때 챗GPT 같은 기술이 학생들을 더 똑똑하게 만들어주는지 판단하기엔 너무 이르다. 어떤 기술 기반의 교수법이 적응 가능한 것으로 드러날지 모르기 때문이다.

그래도 우리가 보다 생산적이 되리라는 알트만의 말은 맞지 않을까? 글쎄. 생산성 향상이란 개념은 오해의 소지가 있다. 많은 사람들이 효율성의 증대가 곧 적게 일하면서 더 좋은 결과물을 얻을 수 있는 걸로 이어진다고 여기기 때문이다. SNS에는 오픈AI의 새로운 GPT-4 대규모 언어 모델을 사용한 챗GPT의 최신 업데이트를 찬양하는 글이 넘쳐난다. 이전에 시간을 많이 잡아먹던 작업들을 빠르게 자동화할 수 있기 때문이다. 사람들이 간과하는 점은 그러한 이점은 수명이 짧으리라는 것이다. 이전의 작업 방식과 비교해보면 지금 AI 얼리어답터들이 쓰는 프롬프트 엔지니어링이 시간을 절약하는 건 사실이다. 하지만 다른 사람들도 AI 사용법을 익히면서 자동화로 똑같은 이점을 취하게 되면 경쟁적인 환경에서 '일 잘한다'는 것의 기준은 올라가게 된다. 그래서 워싱턴대 교수 이언 보고스트는 오픈AI가 "솔루션주의의 고전적인 모델"을 사용하고 있다면서 챗GPT 같은 도구들이 "노동을 줄인다는 노력을 실행하는 데 필요한 노동에 더해 새로운 노동과 관리 제도를 도입할 것"이라고 지적한다.

AI를 최대한으로 이용하려면 AI의 이용이 사회에 어떤 영향을 미칠지를 현실적으로 바라봐야 한다. AI의 긍정적인 면을 과장하는 건 이러한 목표에 역행한다. 그리고 솔루션주의는 가장 나쁜 과장법 중 하나다.

━

PADO 웹사이트에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.

━

김수빈 PADO 매니징 에디터 subin.kim@mt.co.kr