[필동정담] 할루시네이션

2019년 방영돼 인기를 끌었던 드라마 '눈이 부시게'는 타임슬립 기법으로 시청자를 감쪽같이 속였다. 20대 여주인공이 시계를 잘못 돌린 실수로 한순간에 70대 노인으로 변한 것이 전반부 모티브다. 마음은 젊고 몸은 늙은이가 된 주인공이 겪는 사건은 낯설고 혼란스럽다. 그러다가 종반부에 반전이 일어난다. 지금까지 일들은 사실 치매를 앓는 노인의 망상이었던 것이다. 기발한 설정이 돋보였던 드라마는 주인공의 환각 속 명대사로 막을 내린다. "후회만 가득한 과거와 불안하기만 한 미래 때문에 지금을 망치지 마세요. 오늘을 살아가세요. 눈이 부시게. 당신은 그럴 자격이 있습니다. 누군가의 엄마였고, 누이였고, 딸이었고, 그리고 나였을 그대들에게."

이제 환각은 인간에게만 일어나는 증세가 아니다. 최근 돌풍을 일으키고 있는 생성형 인공지능(AI) 챗GPT도 환각에 빠져 사실과 다른 이야기를 지어낸다. 오염된 데이터를 학습한 결과다. 이런 환각현상을 영어로 '할루시네이션(Hallucination)'이라고 한다. 챗GPT의 최대 결함은 정보의 진위 여부를 가리지 못한다는 것이다. 출처가 분명하지 않은 데이터나 가짜뉴스로 딥러닝을 하게 되면 사실이 아닌 것을 사실처럼 이야기한다. 악의적으로 조작한 정보나 성차별, 특정 이념 편향과 종교·인종에 대한 편견이 더해지면 인류를 위협할 수 있다.

주요 7개국(G7) 디지털·기술 장관이 최근 "챗GPT를 사용할 때 책임을 부여해야 한다"는 공동성명을 채택한 것도 이런 위험성 때문이다. 장관들은 민주주의와 인권존중 등 5가지 원칙에 합의했지만 구체적 실천 방안에 대해선 합의점을 찾지 못했다. 빅테크 기업들도 챗GTP의 환각현상 해결을 위해 노력하고 있다. 엔비디아는 생성형 AI의 할루시네이션을 차단하는 '네모 가드레일'을 선보였다. 사실과 맞지 않으면 "모르겠다"고 답하거나 특정 주제에 대해서만 이야기하도록 강제할 수 있는 소프트웨어다. 챗GPT의 환각을 치유하지 못하면 '눈이 부시게' 청명한 생성형 AI 미래는 어둠에 묻힐 수 있다. 빨리 해법을 찾아야 한다.

[장박원 논설위원]