AI 치명적 환각현상, 빅테크 해결나선다

마이크로소프트 '수정' 기능 공개
구글, 버텍스AI에 유사 기능 도입
전문가 "100% 해결 못해" 회의적

로이터 연합 제공

MS의 '수정' 기능을 적용한 자료 화면. MS 제공

생성형 인공지능(AI)의 본격적인 확산을 힘들게 하는 가장 큰 장애물은 AI의 신뢰성을 떨어뜨리는 '환각(hallucination)' 현상이다. 소설, 영화 같은 창작물을 만드는 것을 넘어서서 산업이나 사회 현장에서 핵심적인 문제를 푸는 데 AI를 규모 있게 투입하기 힘든 이유다. 마이크로소프트(MS), 구글 같은 글로벌 빅테크들이 속속 이 문제 해결에 도전하고 있다. AI 환각 현상의 인과관계 파악이 어려워 근본적인 문제 해결이 쉽지 않다는 분석이 나오는 가운데 기술 개발 진척 속도에 관심이 쏠린다.

◇계속되는 AI 환각 문제…빅테크들의 해결책은?= MS는 최근 AI 환각 현상을 해결하기 위해 '수정(Correction)' 기능을 개발했다고 발표했다.

AI 환각은 AI가 질문을 제대로 이해하지 못했거나 학습된 데이터로 답을 할 수 없는 경우 확률적으로 가장 그럴듯한 답변을 내놓으면서 발생한다. AI 검색 기술 플랫폼 벡타라(Vectara)에 따르면 AI 환각 현상은 모든 생성형 AI에서 나타날 수 있다. 생성형 AI가 할루시네이션으로 인해 잘못된 산출물을 생산할 확률은 평균 2.5~22%에 달하는 것으로 알려졌다. 질문이 복잡할수록, 기존에 많이 논의되지 않은 내용일수록 할루시네이션이 발생할 확률이 높다. 지난해 6월 미국의 맨해튼 지방법원은 뉴욕주 변호사 2명이 챗GPT를 이용해 작성한 법원 제출 서류에서 6건의 사실이 아닌 거짓 판례를 인용한 것에 대해 5000달러(약 665만원)의 벌금을 부과한 바 있다.

MS가 이번에 출시한 '수정' 기능은 AI의 안전성을 강화하기 위해 설계된 '애저 AI 콘텐츠 세이프티'의 일부로, 잘못된 내용을 자동으로 감지하고 이를 실시간으로 수정할 수 있는 도구다. 텍스트 출력물에서 오류 가능성이 있는 부분을 먼저 감지한 후, 이를 신뢰할 수 있는 자료와 비교해 수정한다. 예를 들어 기업 실적 발표 요약에서 잘못된 인용을 감지한 후 올바른 자료와 대조해 수정하는 식이다.

MS는 "소형언어모델(SLM)과 대형언어모델(LLM)을 활용해 생성된 출력물을 기반 문서와 일치시키는 프로세스를 기반으로 한다"며 "의료 분야와 같이 정확성이 중요한 산업에서 큰 도움이 될 것으로 기대된다"고 밝혔다.

구글도 최근 AI 개발 플랫폼인 '버텍스 AI'에 유사한 기능을 도입한 바 있다. 사용자가 제3자 데이터 제공업체, 자체 데이터 세트, 또는 구글 검색을 활용해 AI 모델을 검증할 수 있게 한 것이다.

◇"100% 해결 못 해도 노력 이어가야"= 다만 이런 기술적 노력에도 전문가들은 낙관적이지 않다.

오스 키에스 미국 워싱턴대학교 교수는 "생성형 AI에서 환각을 제거하려는 시도는 물에서 수소를 제거하려는 것과 같다"며 "환각 문제는 기술의 작동 방식에 본질적으로 내재된 문제"라고 강조했다.

AI 모델은 실제 지식이 아닌, 통계적으로 훈련된 데이터에서 패턴을 예측하는 방식으로 작동하기 때문에 오류를 완전히 없애는 것은 불가능하다는 것이다.

오태준 우리금융연구소 수석연구원은 "(AI 환각 현상 때문에) 생성형 AI를 활용하는 산업계에서 실질적인 피해와 신뢰 저하 사례가 지속적으로 발생하고 있다"며 "생성형 AI는 작동 원리상 학습을 바탕으로 새로운 결과를 생성하고, 대규모 데이터를 압축해 프로세스 하며, 자연스러운 답변 생성을 위해 결과를 취사 선택하는 과정을 거치는 만큼 환각을 완전히 제거할 수 없다"고 말했다.

다만 문제 해결 시도는 이어가야 한다는 지적이다. 기술이 발전할수록 AI 환각이 줄어들 가능성이 높기 때문이다.

최병호 고려대 인공지능연구소 교수는 "AI 환각 문제를 해결할 완벽한 방법은 아직 없지만 어느 정도 줄일 방법은 있다"며 "AI 환각이 발생하는 근본적인 문제는 데이터 부족인데, 예를 들어 과학 과목만 공부하고 사회 과목을 공부한 적 없는 AI에 사회과목에 대해서 물어보면 AI는 사회문제를 무조건 확률이 높은 것으로 추정해서 내보낸다. 이런 문제를 해결하기 위해 빅테크들이 추론 기능을 강화하는 것"이라고 설명했다.

이어 "최근 퍼플렉시티 등 AI가 출처를 표기하기 시작하면서 환각을 더욱 줄이는 방법들이 제시되고 있다. 100% 해결은 아직 불가능하지만 기술이 점차 진화하고 있다"고 덧붙였다.

유진아기자 gnyu4@dt.co.kr