구글 AI가 제공하는 건강 질문에 대한 답변, 믿어도 될까

구글의 검색 사업 부문 책임자인 리즈 리드가 지난달 14일(현지시간) ) 미국 캘리포니아주에서 열린 ‘구글 연례개발자회의(I/O)’에서 AI 개요 기능을 설명하고 있다. AP연합뉴스

“UC 버클리 지질학자들에 따르면 하루에 최소 하나의 작은 돌을 먹어야 한다.”

최근 구글이 미국에서 먼저 선보인 ‘AI 개요’ 서비스가 “사람이 하루에 얼마나 많은 돌을 먹어야 하는가”라는 물음에 이 같은 답을 내놔 논란이 됐다. 구글 AI가 2021년 미국 풍자 매체 ‘디 어니언’이 올린 풍자 기사를 참조한 것으로 추정됐다. AI 개요는 방대하게 쌓인 구글 검색 데이터에서 질문에 맞는 정보를 찾아 요약해주는 서비스다. 구글은 AI 개요가 웹페이지의 언어를 잘못 해석해 일부 이상하고 부정확한 답변을 제공했다며 개선하겠다고 밝혔다.

구글의 야심작 AI 개요가 정상적이지 않은 답변으로 뭇매를 맞은 가운데 사용자가 건강 관련 답변에는 특히 주의깊게 접근해야 한다는 지적이 나왔다. AI 기술이 더 건강한 습관이나 필요한 의료 서비스를 제시할 수 있지만 부정확한 정보로 오히려 건강에 해를 끼칠 가능성도 있다는 것이다.

4일 뉴욕타임스(NYT)에 따르면 구글의 AI 개요는 건강 관련 질문에 답변하기 위해 주로 유명 의료 웹사이트와 세계보건기구(WHO), 의학·생명과학 논문 데이터베이스 내 정보를 이용한다. 하지만 NYT는 “위키피디아, 블로그 게시물, 레딧(온라인 커뮤니티), 전자상거래 웹사이트를 참조할 수도 있다”며 “어떤 사실이 어떤 출처에서 나왔는지 사용자에게 알려주지 않는다”고 보도했다.

NYT는 구글 검색창에 “초콜릿이 건강에 좋은가”라고 물었다. AI 개요는 “다크 초콜릿은 건강상 이점이 있을 수 있지만 너무 많은 섭취는 해로울 수 있다”며 심장, 정신 등 건강에 미치는 이점을 언급했다. 출처로는 의학 전문 매체, 병원 등을 제시했다. 이 중에는 이탈리아 초콜릿 회사도 있었다. 부정확하고 중립적이지 않은 정보가 섞일 가능성이 있는 것이다.

심장병 전문의인 다리우시 모자파리안 터프츠대 교수는 AI 개요의 답변이 대부분 정확하며 초콜릿의 건강상 이점에 대한 연구를 요약했다고 평가했다. 다만 “강력한 증거와 약한 증거를 구별하거나 증거에 대한 어떤 경고도 제공하지 않는다”고 지적했다. AI 개요가 제시한 답변처럼 초콜릿이 산화방지제를 함유하고 있다는 것은 사실이다. 하지만 초콜릿을 먹는 것이 기억력 감퇴를 예방하는 데 도움이 될 수 있다는 답변은 명확하게 증명되지 않았다. 이 같은 주장을 나란히 나열하면 일부 주장이 실제보다 더 잘 확립돼 있다는 인상을 줄 수 있다.

AI 개요가 각 증거의 강도를 어떻게 평가하는지, 커피와 건강에 대한 연구들과 같이 모순되는 연구 결과를 고려하는지는 명확하지 않다. 전문가들은 사용자가 일부 AI 개요 답변 밑에 제시된 작은 글자에 주목해야 한다고 조언했다. “이것은 정보 제공만을 위한 것입니다. 의학적 조언이나 진단을 위해서는 전문가와 상담하세요. 생성형 AI는 실험적입니다.”

노도현 기자 hyunee@kyunghyang.com