현대차, 대화형 AI '거짓말' 어떻게 잡았나

새 인포테인먼트 '플레오스 커넥트' 공개
"거기 가자" 이해하는 대화형 AI '글레오AI'
개발 과정서 가장 어려운 부분 '거짓말 제어'

"개발하면서 제일 어려운 부분이다. 지금도 어렵다."

현대자동차그룹 자율주행 스타트업 포티투닷의 이종호 TL(팀 리드)은 인공지능(AI) 에이전트 '글레오AI' 개발 과정에서 가장 어려운 부분으로 'AI의 거짓말'을 꼽았다. 지난 29일 서울 강남구 'UX 스튜디오 서울'에서 열린 '플레오스 커넥트 미디어 데이'에서다. 챗GPT 등 대화형AI의 문제점 중 하나가 능청스럽게 거짓말하는 '환각 현상'인데 글레오AI도 예외는 아니었다는 얘기다.

"잘못된 추론하면 안전문제"

이날 현대차그룹이 선보인 차세대 인포테인먼트 시스템 '플레오스 커넥트'의 핵심 기능 중 하나가 글레오AI다. 글레오AI는 대규모 언어 모델(Large Language Model, 이하 LLM)을 기반으로 개발된 차량용 대화형 AI다. LLM을 기반에 두다보니, 개발 과정에서 '환각 현상'도 피할 수 없었던 것이다.

현대차그룹은 글레오AI에 더 엄격한 잣대를 적용했다. 작은 거짓말이나 잘못된 추론이 차량의 안전 문제와 직결될 수 있어서다. 글레오AI의 환각 현상을 최소화하기 위한 방안은 규칙 기반의 고도화 훈련이다.

이종호 TL은 "글레오AI가 차량 기능을 추론할 때 잘못된 기능을 추론해 안전문제가 생길 수 있다"며 "이를 방지하기 위해 명확한 지침과 규약을 통해 정확한 기능을 실행하는 데 초점을 두고 있다"고 설명했다. 이어 "글레오AI에 정보를 물었을 때 실제 정보와 다르게 말을 지어내는 경우가 있다"며 "사용자에게 제공되지 않아야 할 정보와 제공해야 할 참조용 지식을 계속 늘려가면서 그런 부분을 방지하고 있다"고 덧붙였다.

'환각 현상'을 제어한 글레오AI는 운전자에게 새로운 경험을 제공한다. 글레오AI가 기존 차량에 탑재된 단순 음성 인식 기능을 넘어 사람처럼 생각하고 대화할 수 있어서다. 

예컨대 운전자가 "시트가 왜 이리 뜨겁지"라고 말하면 글레오AI가 이 말을 속뜻을 이해하고 열선 시트를 꺼준다. "성심당 가자. 거기서 뭐 살까"라는 말에는 "튀김 소보로가 가장 인기 메뉴"라고 답한다. 직전 대화 이력을 기반으로 '거기' '이 근처' 등의 추상적 표현도 이해하고, 여러 가지 명령도 한 번에 수행한다. 사투리도 알아들을 수 있다.

이날 이종원 현대차 전무는 "글레오AI는 사용자 습관과 의도를 실시간으로 파악하고 상황에 맞춰 최적의 제안을 제공하는 개인화 경험을 선사한다"고 강조했다.

"테슬라 대형 화면 표준으로 자리 잡았다"

플레오스 커넥트의 또 다른 특징은 '대화면 디스플레이'다. 차량 중앙에 위치한 16대 9 비율의 디스플레이에는 주요 차 상태 정보와 내비게이션 등이 표출된다. 테슬라 디스플레이와 크게 다르지 않다. 김창섭 현대차·기아 UX전략팀 책임연구원은 "테슬라의 대형 화면은 심플하고 직관적으로 업계의 표준으로 자리 잡았다고 판단하고 있다"며 "어느 정도 검증된 사용자 경험을 수용했다"고 설명했다.

'앱 마켓'도 플레오스 커넥트 주요 기능 중 하나다. 앱 마켓은 현대차그룹이 운영하는 자체 개방형 앱 생태계다. 이를 통해 네이버 오토, 네이버 지도, 유튜브, 스포티파이 등 다양한 서비스를 스마트폰 연결없이 차량 내에서 이용할 수 있다. 개발사 전용 플랫폼 '플레오스 플레이그라운드'를 통해 차량용 앱 개발도 지원한다. 

현대차그룹은 플레오스 커넥트가 현재 추진 중인 SDV(Software Defined Vehicle) 체제 전환의 첫 발걸음이라고 강조했다.이종원 전무는 "플레오스 커넥트는 단순히 차량 판매에 머물 것인가, 아니면 고객 모빌리티 경험 전반을 설계하는 기업으로 진화할 것인가라는 고민의 답이자 미래 핵심 비전"이라고 전했다.

현대차그룹은 오는 5월 출시하는 '더 뉴 그랜저'에 플레오스 커넥트를 처음 적용한 이후 전 세계로 확대해 2030년까지 약 2000만대로 늘릴 계획이다.

안준형 (why@bizwatch.co.kr)

ⓒ비즈니스워치의 소중한 저작물입니다. 무단전재와 재배포를 금합니다.