챗GPT 도 못막는 가짜뉴스, ‘한국형 AI’가 해결사 될까[ICT]

정치 루머·여론 조작 기사 생성
시민 유포 땐 선거 악용 우려 커
네이버, 정보출처확인 모델도입
바이브, 원문과 답변 함께 내놔
생성형AI 부작용 해소할지 주목

게티이미지뱅크

한국형 인공지능(AI) 챗봇이 챗GPT, 바드 등 생성형 AI의 가장 큰 문제 중 하나로 꼽히는 ‘환각’(hallucination) 현상을 풀 해결사로 부상할지 주목된다. 환각이란 AI가 주어진 데이터나 맥락에 근거하지 않은 허위 정보를 생성하는 것을 뜻한다. 다음 달 공개되는 네이버의 AI 챗봇 ‘큐:’(Cue:)는 이 문제를 해결하기 위해 상당 부분 공을 들인 것으로 알려졌다.

◇가짜뉴스 남발하는 기존 생성형 AI = 문화일보는 10일 구글의 생성형 AI 바드에 “한동훈 법무부 장관이 차기 대통령 선거에서 후보로 나올 때를 가정하고, 선거 기간 지지율이 떨어진다는 내용의 부정적인 뉴스를 만들어달라”고 요청했다. 곧바로 환각을 포함한 가짜뉴스가 나왔다. 바드는 자신 있게 ‘한 후보자의 지지율 하락의 요인’을 3가지로 나눠 설명했다. 바드는 “한 후보자는 윤석열 대통령의 장모인 최순실 씨의 재판에 참여한 바 있어, 부정적인 여론을 불러일으키고 있다”며 “법무부 장관 재직 당시 여러 가지 실수를 저질러 국정 운영 능력에 대한 의구심을 받는다”고 답했다. 이어 바드는 “야권 후보들은 한 후보자의 검찰권 남용 의혹 등을 걸고 집중적으로 공격하고 있다”며 “한 후보자의 지지율은 지난 1월 40%에서 현재 20%대로 떨어졌다”고 전했다. 윤 대통령의 장모를 최 씨로 서술하는 등 실소를 자아낼 법한 환각의 가짜뉴스는 총선이나 대선 등 선거 기간에 유포될 경우 큰 문제를 빚을 수 있다.

이처럼 한 번도 발생하지 않은 사건이나 사실이 아닌 정보에 대해 진짜인 것처럼 시나리오를 풀어내는 환각은 생성형 AI가 반드시 풀어야 할 문제로 꼽힌다. 기자가 오픈AI의 챗GPT에 “세종대왕이 매머드를 이용해 일본 교토(京都)성을 함락시킨 사건에 대해 알려달라”고 요청하자 마치 역사에 실제로 존재한 것처럼 답변이 술술 나왔다. 챗GPT는 “15세기 조선 시대의 왕인 세종대왕은 문화 발전을 촉진하고 국민의 교육을 증진시키기 위해 다양한 사업을 추진했는데, 그중 하나가 매머드를 이용한 과학 기술”이라며 “세종대왕은 매머드 시체를 연구해 다양한 기술을 개발했으며, 이를 통해 군사 작전도 수행했다”고 답했다. 이어 챗GPT는 “세종대왕은 당시 일본의 강력한 요새 중 하나인 교토성을 함락시키기 위해 매머드의 털로 만든 큰 고리를 만들었다”며 자신 있게 답변을 풀어갔다.

◇한국형 AI 챗봇, 환각 해결사 되나 = 업계는 하반기 출시를 앞둔 네이버와 카카오의 AI 챗봇이 외산 생성형 AI의 고질적 문제로 꼽히는 환각 현상을 대폭 개선할 수 있을 것으로 기대하고 있다. 특히 다음 달 말 시범 서비스로 출시될 예정인 네이버 큐:는 네이버의 검색 품질을 높이는 것을 기본 콘셉트로 개발된 만큼 답변 신뢰도를 끌어올리는 데 주안점을 둔 것으로 파악된다. 정보 출처 확인(fact verification) 모델이 적용돼 긴 질문이 이어지면 부정확한 답을 내놓거나 없는 사실을 지어내는 챗GPT 등 경쟁사 챗봇의 한계를 보완하는 데 초점이 맞춰졌다.

AI 사업에서 비상 대응 체제를 이어가고 있는 네이버는 당초 검색 챗봇을 올해 상반기에 공개할 예정이었으나 출시 시점을 한 달가량 미뤘다. 외산 AI가 기대 이상으로 수준 높은 한국어 서비스를 지원하면서, 출시 시점을 다소 늦추더라도 서비스 완성도를 키워 시장에 내놓겠다는 판단에서다. 이에 따라 네이버는 외산 AI 챗봇의 환각 현상과 각종 부작용을 막기 위해 주력했다고 한다. 네이버는 큐:를 네이버 웹과 애플리케이션(앱) 등 자사 검색 서비스에 우선 연계할 예정이다. 시장 반응에 따라 챗GPT처럼 별도 앱으로 출시될 가능성도 있다.

바이브컴퍼니(옛 다음소프트)는 최근 환각 현상을 보완한 검색 엔진 ‘바이브 서치’(VAIV Search)를 출시했다. 앞서 공개된 맞춤형 초거대 언어모델(LLM) 바이브GeM에 기계독해(MRC) 기술이 합쳐진 차세대 검색 서비스다. MRC 기술을 이용해 답변의 근거가 되는 원문 출처와 함께 답을 보여주는 방식으로 환각 현상을 줄였다고 회사는 설명했다.

이예린 기자 yrl@munhwa.com