'아이 철분제' 챗GPT에 묻자…"권장량 5배 먹여라"?

[앵커]

요즘 아이 키우면서 모르는 걸 챗GPT에 묻는 분들 많으시죠. 특히 아이 건강 상태나 약 성분을 질문하기도 하는데요. 그런데 잘못된 정보를 알려줘 응급실을 다녀오는 사례도 있다고 합니다.

공다솜 기자가 취재했습니다.

[기자]

11개월 딸아이를 키우는 부부에게 챗GPT는 '육아 필수템'이 됐습니다.

[김정운/경기 수원시 망포동 : 약 봉투만 받아서 집에서 보니까 궁금한 거예요. 이게 어떤 건지, 뭔지 몰라서. 챗GPT를 켜서 사진으로 찍어서 '이게 어떤 성분인지 알려줘' 하니까 좀 자세하게 나오더라고요.]

하지만 마냥 신뢰할 수만은 없습니다.

[김정운/경기 수원시 망포동 : (아기가) 귀를 만진다고 했는데 (챗GPT가) 그러면 중이염이 의심된다. 실제로 검사해 보니까 아무렇지 않더라고요. 결국 인터넷에서 퍼온 글 같은 것을 가져올 때가 많아서…]

실제 주간 이용자의 30%에 달하는 2억3천만명이 챗GPT에 건강 관련 질문을 하고 있습니다.

문제는 이 생성형AI가 잘못된 정보를 그럴 듯하게 포장하는 경우입니다.

챗GPT에 10개월 아이에게 철분제를 얼마나 먹어야 하는지 직접 물었더니, 권장량의 5배를 권합니다.

떠도는 글을 근거로 철분 함유량을 잘못 계산한 겁니다.

온라인 상에선 이런 오류 때문에 응급실까지 다녀왔다는 사례도 있습니다.

여기다 일부 생성형AI는 악의적인 외부 공격에 취약한 걸로 나타났습니다.

연구진이 생성형AI에 임산부 금기약품인 '탈리도마이드'란 명령어를 몰래 삽입하고 입덧이 심한 '임신 오조증' 치료법을 묻자, 이 약품을 권합니다.

[서준교/서울아산병원 비뇨의학과 교수 : 완전히 판매 중단이 됐던 약이거든요. 원래는 의사라면 처방하지 않는 약인데 이걸 처방할 수 있게 위험한 정보가 나올 수 있는 것을 확인 할 수 있습니다.]

생성형AI로 얻은 정보가 십중팔구 맞더라도 하나가 틀리면 큰 사고로 이어지는 만큼 맹신은 금물입니다.

[서준교/서울아산병원 비뇨의학과 교수 : LLM(거대언어모델)에게 질문했다면 이것을 의사 같은 전문가한테 한 번쯤 확인을 할 필요는 있다고 생각합니다. 그것만 해도 웬만한 위험성은 다 막을 수 있을 거라 보고 있습니다.]

[영상취재 이학진 황현우 영상편집 김지우 영상디자인 정수임]