셀렉트스타, AI 안전성 논문 3편 ‘ICML 2026’ 채택…문화 맞춤형 LLM 평가기술 인정

영어권 중심 평가 한계 극복
문화 맥락 반영한 AI 안전성·신뢰성 검증 기술 글로벌 무대서 주목

[이데일리 김현아 기자] AI 데이터·신뢰성 검증 전문기업 셀렉트스타는 자사 AI 안전성 연구 논문 3편이 세계적 인공지능(AI) 학회인 국제머신러닝학회(ICML)2026 워크숍에 채택됐다고 6일 밝혔다.

ICML은 국제표현학습학회(International Conference on Learning Representations), 신경정보처리시스템학회(Conference on Neural Information Processing Systems)와 함께 세계 최고 권위의 AI 학회로 꼽힌다. 올해 행사는 6일부터 11일까지 서울 코엑스에서 열린다.

채택된 논문은 에이전트형 AI의 안전성과 신뢰성을 다루는 AIWILD(AI in the Wild) 워크숍 1편과 생성형 AI를 문화적 관점에서 연구하는 Culture x AI워크숍 2편이다. 모두 대규모언어모델(LLM)의 안전성과 신뢰성을 높이기 위한 평가 및 학습 데이터 구축 기술을 다뤘다.

셀렉트스타는 이번 연구를 통해 기존 AI 안전성 평가 방식의 한계를 보완하는 방법론을 제시했다고 설명했다. 현재 AI 안전성 평가는 거대 언어모델에 의존하거나 영어권 데이터를 단순 번역해 사용하는 사례가 많아 실제 서비스 환경과 문화적 맥락을 충분히 반영하지 못한다는 지적을 받아왔다.

셀렉트스타, AI 안전성 논문 3편 ‘ICML 2026’ 채택…문화 맞춤형 LLM 평가기술 인정

첫 번째 논문인 Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges‘는 AI 응답의 위험성을 평가하는 세이프티 저지(안전성 평가 모델)를 제안했다.

연구진은 커리큘럼 러닝(쉬운 과제부터 단계적으로 학습하는 방식)을 적용해 금융 등 새로운 산업 분야에서도 일관된 안전성 평가 성능을 유지할 수 있음을 입증했다고 밝혔다. 회사는 이 기술이 내부 폐쇄망 환경에서도 빠르고 정확한 AI 안전성 검증에 활용될 수 있을 것으로 기대했다.

두 번째 논문 ’Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts‘는 문화권별 레드티밍(AI의 취약점과 위험성을 의도적으로 찾아내는 검증 기법) 방법론을 제시했다.

셀렉트스타의 자체 프레임워크인 CAGE를 활용해 한국어, 일본어, 태국어, 크메르어 사례를 분석한 결과, 영어권 벤치마크(성능 평가 기준)를 단순 번역하는 방식으로는 국가별 위험 요소를 충분히 포착하기 어렵다는 점을 확인했다. 연구진은 문화적 특수성과 실제 사용 환경을 반영한 평가 데이터 구축이 필요하다고 제안했다.

세 번째 논문 ’Korean Culture into LLM Alignment: Toward Cultural Coherence‘는 한국의 사회 규범과 법·제도, 언어적 특성을 반영한 안전 정렬(AI가 인간의 가치와 규범에 맞게 답변하도록 학습시키는 기술) 데이터 구축 방법론을 소개했다.

셀렉트스타는 해당 기술이 한국 문화에 적합한 AI 응답 성능을 높이면서도 모델 성능 저하를 최소화했으며, 현재 추진 중인 독자 AI 파운데이션 모델 개발에도 활용되고 있다고 설명했다. 셀렉트스타는 SK텔레콤(017670) 컨소시엄으로 활동 중이다.

김세엽 셀렉트스타 대표는 “이번 ICML 워크숍 채택은 AI 안전성 분야의 핵심 기술 역량을 글로벌 무대에서 인정받은 성과”라며 “앞서 ACL 2026(전산언어학회)과 ICLR 2026 메인 콘퍼런스에 이어 연구 경쟁력을 입증한 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발을 지속하겠다”고 말했다.

한편 셀렉트스타는 이날 인공지능안전연구소(AISI)이 주최하는 ’제3차 AI 안전 정책 연구 세미나‘에도 참가한다. 이 자리에는 스케일AI도 연사로 참여한다. 양사는 번역 기반 AI 안전성 평가의 한계와 문화 인지형(Culture-aware) LLM 벤치마크 구축 방안을 주제로 발표할 예정이다.

김현아 (chaos@edaily.co.kr)

IT/과학

셀렉트스타, AI 안전성 논문 3편 ‘ICML 2026’ 채택…문화 맞춤형 LLM 평가기술 인정