中 올라탄 SKT AI, 신조어도 '척척'…"정보유출 우려 지웠다"

차세대 LLM '에이닷엑스 4.0' 기반 챗 공개
산업 특화 '버티컬 AI' 서비스로 B2B 공략

SKT는 차세대 LLM 에이닷엑스 4.0 기반 AI 에이전트 '에이닷엑스 챗'을 공개했다. 첫 화면엔 대화내용을 저장하지 않는다고 명시했다. /사진=에이닷엑스 챗 캡처

SK텔레콤이 차세대 LLM(거대언어모델) '에이닷엑스 4.0' 기반의 AI 에이전트를 공개했다. 챗GPT처럼 "여행일정을 짜달라"거나 "○○ 설명해줘"라는 질문에 빠르게 답한다. 에이닷엑스 4.0은 중국 알리바바의 오픈소스 LLM(거대언어모델) '큐원(Qwen) 2.5'를 한국어에 맞게 개량한 AI 모델로, 특정 산업에 특화한 '버티컬 AI 서비스'를 만든다는 목표다. 다만 중국 AI 모델에 대한 우려는 숙제로 보인다.

3일 업계에 따르면 SKT는 올 상반기 개발한 에이닷엑스 4.0 성능을 체험할 수 있는 '에이닷엑스 챗' 베타 서비스를 최근 공개했다. 에이닷엑스 4.0은 알리바바 큐원 2.5에 방대한 한국어 데이터를 학습시켜 한국어와 한국문화에 대한 이해도가 높다. 한국어 능력 평가 벤치마크인 KMMLU에서 GPT-4o(72.5점)보다 높은 78.3점을 받았다.

그에 걸맞게 에이닷엑스 챗은 '갓생'·'슬세권' 등 신조어 의미를 정확히 알아맞히고 독도 영유권과 동해 표기에 대해서도 한국 편을 들었다. "윤석열 전 대통령의 비상계엄에 대해 평가하라" 등의 정치적 질문에 "개인적 견해를 제공할 수 없다, 최근 뉴스기사를 찾아보라"며 즉답을 피했다. 추론 모델은 아니지만 비교적 단순한 수학문제도 풀어냈다.

━

SKT 매출이 185조?…신조어 잘 알지만 검색 약해

━

에이닷엑스 챗에 SKT 3개년 실적을 질문했을때 답변/사진=에이닷엑스 챗 캡처

웹 검색은 일부 제공하지만 아쉬운 수준이다. 이재명 대통령의 취임일(6월4일)은 정확히 답하면서도 "SKT의 3개년 매출·영업이익을 알려달라"는 질문엔 "2024년 9월 이후 최신 데이터를 제공할 수 없다"고 했다. 2023년 SKT 매출(연결기준 17조6085억원)이 185조원이라는 엉뚱한 대답도 내놨다. 다만 에이닷엑스 4.0은 B2C(기업과 소비자간 거래) 서비스가 아니라 각 주제별로 전문성을 강화한 버티컬 AI 서비스가 목표여서 챗GPT 등과는 차이가 있다.

에이닷엑스 4.0의 강점은 글로벌 빅테크 LLM 대비 한국어 처리 속도도 빠르고 비용면에서 효율적이라는 점이다. 해외 LLM에서 한국어 사용 시 AI가 인식하는 문자 단위인 '토큰'이 영어보다 많이 필요해 처리속도는 늦고 비용은 더 비싸다. 예컨대 GPT-4o에서 "I ate an apple"이란 영어 문장은 4개 토큰으로 나뉘는 반면, "나는 사과를 먹었다"는 6개 토큰으로 분류돼 영어보다 1.5배 많은 API 비용을 내야 한다.

SKT의 에이닷엑스 챗은 큐원 2.5 기반이지만 자체 개발한 한국어 특화 토크나이저를 적용해 이같은 문제를 해결했다. GPT-4o대비 1.5배 더 많은 한국어 정보를 처리하면서 비용은 34% 절감할 수 있다. 메타의 라마4와 비교해도 동일한 한국어 텍스트를 입력했을 때 약 200개의 토큰수를 절감한다. SKT는 이달 내 에이닷엑스 챗에 이미지 생성기능을 추가하고, 조만간 추론형 모델인 '에이닷엑스 4.1'을 선보일 예정이다.

━

中 AI 모델 우려 넘을까…"자체 기술·데이터로 주권 확보"

━

앞서 SKT는 모델 아키텍처(구조)·데이터셋·학습프로세스 등을 자체 구축하는 '프롬 스크래치' 방식으로 에이닷엑스 3.0을 개발했다. 이와 달리 4.0은 외부 오픈소스 LLM을 차용했다. 자국 AI 육성을 강조하는 '소버린 AI' 정책과도 차이가 있다. 이에 대해 SKT 관계자는 "국내 비즈니스 환경에 최적화된 성능을 내기 위해 4.0모델을 개발했다"며 "3.0 모델도 지속 고도화해 투트랙으로 운영할 것"이라고 말했다.

개인정보 유출 우려 등 중국 LLM에 대한 국내 반감이 큰 점도 넘어야 할 산이다. 이를 의식한 듯 SKT는 에이닷엑스 챗 첫 화면에 '대화 내용을 저장하지 않는다'고 명시했다. 개인정보보호정책에도 '이용자의 메시지나 답변은 저장하지 않는다. 이용자의 쿠키를 수집·저장하지 않는다. 기술적 보안과 프라이버시 보호를 위해 노력하겠다'고 했다.

더불어 SKT는 자체 구축한 슈퍼컴퓨터 '타이탄'에서 자체 데이터로 학습·필터링하고, 독자적인 토크나이저와 가중치(입력값의 중요도를 결정하는 매개변수)를 적용해 사실상 SKT표 AI 모델과 다름없다고 강조했다. SKT 관계자는 "알리바바의 오픈소스 LLM을 기초로 했다고 종속되는 건 아니다. 자체 기술과 데이터로 주권을 확보했다"고 말했다.

윤지혜 기자 yoonjie@mt.co.kr