크라우드웍스, 생성형 AI 신뢰성 평가 프레임워크 개발 착수

(사진=크라우드웍스) *재판매 및 DB 금지

[서울=뉴시스] 김경택 기자 = 크라우드웍스가 AI(인공지능) 신뢰성 기반조성을 위한 '생성형AI 신뢰성 평가 프레임워크 개발' 사업에 착수했다.

AI 테크 기업 크라우드웍스는 최근 한국정보통신기술협회(TTA)가 주관하는 '생성형 AI 신뢰성 평가의 실용적 접근 방안 연구' 사업을 수주했다고 17일 밝혔다.

회사 측에 따르면 이번 사업은 크라우드웍스 외 자연어 처리 솔루션 전문 스타트업 테디썸, 연세대(김한샘 교수 연구팀) 3개사가 컨소시엄을 이뤄 참여한다.

이번 사업은 생성형 AI의 안전성과 신뢰성 확보를 위한 가이드라인을 마련하기 위한 것이다. 생성형 AI 신뢰성 평가 프레임워크 개발·확산을 목표로 한다. 연구마다 다르게 정의되고 있는 생성형 AI에 대한 주요 위험 요소의 정의를 체계화하고, 사회·문화적 특성을 고려해 실용적인 신뢰성 평가 프레임워크를 개발해 생성형AI의 위험과 부작용을 최소화한다는 목표다.

사업 범위는 ▲생성형 AI 위험 정의·분류 체계화, ▲위험-평가 매트릭 매핑 구조 설계 ▲레드팀 테스팅 기법 수집·교육자료 작성 ▲평가 메커니즘 설계 ▲평가 방안의 실용성 파악을 위한 시범 적용 등이다.

크라우드웍스는 AI 생태계에서 구축한 데이터 기술 경쟁력과 차별화된 전문성을 기반으로 AI 기술 저변과 리더십을 확대하고 있다.

김우승 크라우드웍스 대표이사는 "AI 신뢰성과 안전성 평가 프레임워크는 AI 평가 표준화를 가속하고 AI의 상호운용성, 호환성을 높여 AI 산업 발전 속도를 높이게 될 것"이라며 "AI 신뢰성 기술 영역에서도 리더십과 경쟁력을 확보하고 우리나라가 AI 강국으로 도약할 수 있도록 최선을 다하겠다"고 말했다.

☞공감언론 뉴시스 mrkt@newsis.com