[스몰리드] 생성형 AI 성장 가로막는 큰 장애물 ‘환각’
황규락 기자 2024. 4. 25. 03:03
‘검색 증강 생성’으로 환각 막아
생성형 인공지능(AI)의 성장을 가로막는 가장 큰 장애물은 ‘환각(hallucination)’ 현상이다. AI가 사실이 아닌 답을 내놓는 현상으로, AI의 신뢰성을 떨어뜨리는 원인 중 하나다. AI가 질문을 제대로 이해하지 못했거나, 학습된 데이터로 답을 할 수 없는 경우 확률적으로 가장 그럴듯한 답변을 내놓으면서 발생한다. AI 검색 기술 스타트업 ‘벡타라’에 따르면, AI 환각 현상은 모든 생성형 AI에서 나타날 수 있으며, 발생 확률이 최대 16.2%에 이르는 것으로 알려졌다.
AI 환각 현상을 막기 위해 고안된 기술이 ‘검색 증강 생성(RAG)’이다. RAG는 생성형 AI가 학습한 데이터와는 별개로 외부의 데이터를 참고해 답변의 정확도를 높이는 기술이다. 언론 기사나 학술지 등 믿을 수 있는 외부 데이터를 답변에 반영하기 때문에 AI의 신뢰성을 높일 수 있다.
Copyright © 조선일보. 무단전재 및 재배포 금지.
이 기사에 대해 어떻게 생각하시나요?
조선일보에서 직접 확인하세요. 해당 언론사로 이동합니다.
- 공수처 ‘채 상병 외압’ 의혹 해병대 사령관 14시간 조사
- “DJ 와 동향 최성홍 대신 고교 후배 반기문 차관 발탁으로 낙마”
- Korean pedestrian robot startup Raion Robotics secures seed investment
- [Eric John’s Window] Toast to innovation: Makkoli edition
- 카더가든, ‘불법촬영’ 뱃사공 사진 올렸다가 빈축
- “트럼프 집권하면 나토에 방위비 지출 GDP 2%에서 3%로 강요”
- 中, 희토류 국유기업들 매출 폭망.. 무기화로 자초한 禍
- 어린이날 ‘시간당 30㎜’ 물폭탄…5일 오후~6일 아침 강수 ‘정점’
- 파리서 실종된 한국인 남성 보름 만에 소재 확인… “신변 이상 없어”
- “200명 증원하려면 병원 4배 지어야…2.4조 주면 가능” 의대 교수협 세미나서 수장