[횡설수설/신광영]진짜 같아 더 문제인 AI 가짜 의사

비만, 노화 같은 인류의 난제를 간단히 해결할 수 있다고 유혹하는 ‘의사’들 영상이 요즘 유튜브나 소셜네트워크서비스(SNS)에 적잖이 올라온다. “아이들 살 빼주고 싶으면 식단, 운동 말고 이것부터 하세요.” “하루에 담배 두 갑씩 피워도 폐가 신생아처럼 깨끗해요. 소변으로 싹 배출되니까.” “이거 쓰고도 기미 안 없어지면 100만 원 드릴게요.” 깔끔한 외모에 중후한 말투로 특정 약품이나 건강기능식품의 효능을 강조한다. 흰 가운이나 수술복 차림인 이들에겐 ‘S대 출신 소아비만 전문의’ ‘강남 E산부인과 배OO 원장’ 같은 자막이 따라붙는다. 권위 있는 의사인 듯 보이지만 인공지능(AI)으로 만든 가짜 의사들이다.

▷초기엔 표정이 어색하고 로봇 같은 목소리에 가짜인 게 금방 티가 났다. 하지만 AI가 계속 고도화되면서 세상에 없던 인물을 찍어내는 능력도 정교해져 병원에서 흔히 볼 법한 의사처럼 감쪽같아졌다. 요즘엔 챗GPT 등에 명령어 입력 요령을 가르치는 프롬프터 학원까지 생기고 있는데 이런 강의 한두 번이면 누구나 그럴듯한 가짜 의사를 만들어낼 수 있다고 한다. 영상 대본도 AI가 전문의 냄새 풀풀 나게 대신 써준다.

▷가짜 의사들은 10kg 이상 쭉쭉 빠지는 다이어트 약이나 아이들 키가 쑥쑥 자라게 해주는 보조식품 같은 걸 광고하는데 실제 효과는 거의 없다고 한다. 솔깃한 얘기일수록 의학적으론 터무니없는 허위 정보일 가능성이 높다는 게 전문가들 지적이다. 유해성 검증이 안 된 약품도 많아 절박한 처지의 난치병 환자들이 섣불리 썼다간 병이 악화될 위험도 있다. 최근 대한의사협회는 AI 가짜 의사들과의 전쟁을 선포하고 피해 사례 수집에 나섰다.

▷의료인은 이 제품 좋으니 믿고 쓰라고 홍보하는 것 자체가 법으로 금지돼 있다. 하지만 AI로 생성한 의사는 사람도 아니고 의료인도 아니어서 처벌하기 어렵다. 최근 법원에서 AI로 성인 음란물을 만들어 유포한 남성에 대해 영상 속 여성이 실존하는지 알 수 없다면서 무죄를 선고한 게 비슷한 사례다. 가짜 의사를 약품 광고에 활용한 업체라도 찾아서 책임을 물어야 하는데 이런 영상들은 알고리즘을 타고 노출됐다가 금방 사라져 버린다. 치고 빠지기식으로 소비자를 유인해 빠르게 제품을 팔아치운 뒤 구매 페이지를 폐쇄하는 경우도 많아 추적이 쉽지 않다.

▷누구나 AI의 힘을 빌려 전문가 흉내를 낼 수 있게 되면 진짜와 가짜가 모호해지는 불신의 시대가 열린다. AI 덕에 시간을 많이 단축하게 됐지만 뒤탈을 피하려면 의심하고 확인하는 데 손품 발품을 팔아야만 한다. 시간을 아낀 만큼, 안 써도 될 시간을 새로 내야 하는 것이다. 기술이 발전할수록 악용하는 이들이 많아지고 그걸 걸러내야 하는 수고가 뒤따르니 노력의 총량은 결국 불변하는 것 같다.

신광영 논설위원 neo@donga.com