요즘 그대로 믿는 사람 너무 많아···"큰일 난다" 경고 나온 구글 AI 요약 기능

연합뉴스

[서울경제]

구글의 AI(인공지능) 요약 기능이 잘못된 건강 정보를 제공해 사람들을 위험에 빠뜨릴 가능성이 있다고 영국 일간 가디언이 2일(현지 시각) 보도했다.

구글은 생성형 AI를 활용해 특정 주제나 질문에 대한 핵심 정보를 간단히 제시하는 ‘AI 오버뷰(AI 개요)’ 기능이 유용하고 신뢰할 수 있다고 주장해 왔다. 그러나 가디언은 “검색 결과의 최상단에 표시되는 AI 오버뷰가 부정확한 건강 정보를 제공해 사람들을 위험에 빠뜨릴 수 있다”고 했다.

예를 들어 구글은 췌장암 환자에게 고지방 음식을 피하라고 조언했지만, 전문가들은 이런 조치가 위험하다고 지적했다. 자선 단체 ‘췌장암 영국(Pancreatic Cancer UK)’의 연구·지원 담당자 안나 주얼은 “이 검색 결과를 그대로 따르면 충분한 열량을 섭취하고 체중을 늘리기 어려워지며, 항암 치료나 생명을 살리는 수술을 견디지 못할 수 있다”고 했다.

가디언은 여러 보건 단체와 의료 전문가의 확인을 거쳐 구글 ‘AI 오버뷰’가 부정확한 건강 정보를 제공한 사례를 나열했다. 영국 ‘환자정보포럼(the Patient Information Forum)’의 소피 랜들 이사는 “이번 사례는 구글 AI 오버뷰가 정확하지 않은 건강 정보를 온라인 검색 최상단에 올려 사람들의 건강에 위험을 초래할 수 있음을 보여준다”고 했다.

구글 측은 “건강과 같은 주제에 대한 AI 오버뷰의 품질 향상에 상당한 투자를 하고 있다. 대다수의 AI 오버뷰는 정확한 정보를 제공한다”고 했다. 가디언이 지적한 사례들과 관련해선 “잘 알려지고 신뢰할 만한 출처로 연결돼 있으며 전문가 조언을 구할 것을 권장한다”고 했다.

남윤정 기자 yjnam@sedaily.com