나치군이 아시아인?… AI 잇단 환각 명확한 결론 내는 ‘지식그래프’ 주목

산발적 분포된 데이터 통합·연결
삼성, 관련 스타트업 인수 활발

생성형 인공지능(AI)의 오류 해결사로 ‘지식그래프’ 기술이 각광받고 있다. 지식그래프란 잘못된 정보를 사실처럼 제공하는 AI 환각 현상을 줄이고, 여러 조건에 맞는 정교한 결과물을 도출하는 기술이다. 지식그래프는 개인화된 AI 개발의 핵심 키워드로 떠오르고 있어 관련 기술을 보유한 스타트업 인수 경쟁이 치열해지고 있다.

21일 업계에 따르면 답변이 나온 근거와 추론 원리까지 제시하는 지식그래프가 뜨거운 감자로 떠올랐다. 지식그래프는 한꺼번에 여러 개의 조건을 설정하는 것이 가능해 개인 맞춤형 결과물을 얻을 수 있다. 산발적으로 분포된 데이터를 통합하고 연결해, 관련 있는 정보를 그래프 형태로 표현하는 것이 특징이다.

최근 잇따라 출시된 생성형 AI는 대형언어모델(LLM)을 기반으로 만들어졌다. 하지만 답변이 도출되는 과정이 투명하지 않아 정확성과 편향성 문제가 제기됐다. 지난 2월 구글의 생성형 AI ‘제미나이(Gemini)’에서 발생한 환각 현상이 대표적이다. 제미나이가 독일 나치군을 아시아인으로 묘사하는 등 오류가 발생했다. 일각에서는 구글이 제미나이에 의도적으로 인종차별적 알고리즘을 내재했다는 의혹을 제기했다. 반면, 지식그래프는 질문에서 답변까지 이어지는 과정이 그래프로 명확하게 제시돼 차별적 답변이 생성되기 어렵다.

지식그래프는 개인화된 AI에 적합한 기술로 일상에 활용할 수 있는 범위가 훨씬 확대된다. 예를 들어 상대방의 과실이 있는 교통사고 보험료 인상률을 물을 때, 기존의 AI는 교통 상황에 따라 다르다는 모호한 답을 한다. 지식그래프는 사용자가 입력한 조건들을 계산해 ‘상대방 과실이 A%이니 데이터 B를 분석했을 때 보험료는 C원 오른다’와 같은 명확한 결론을 내린다.

지식그래프 기술의 중요성이 부각되자 관련 스타트업에 대한 인수·합병(M&A)도 활발히 이뤄지고 있다. 삼성전자는 지난 16일(현지시간) 영국 스타트업 ‘옥스퍼드 시맨틱 테크놀로지스’(OST) 인수 계약을 맺었다. OST는 2017년 옥스퍼드대 교수 3인방이 공동 창업한 회사로 지식그래프의 원천 기술을 개발했다.

지난 4월 미국 최대 소프트웨어 기업 중 하나인 알테어도 지식그래프 스타트업 ‘케임브리지 시맨틱스’를 인수했다. 케임브리지 시맨틱스는 2007년 IBM 첨단기술그룹 출신 직원들이 설립했다. 업계 관계자는 “지식그래프는 어느 정도 성장이 멈춘 생성형 AI시장에 새로운 경쟁의 장을 여는 요소가 될 것”이라고 말했다.

나경연 기자 contest@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지