韓기업 대표로 美국무부 간 '업스테이지'…AI 윤리 발표

'한미 ICT 정책 포럼’에 한국의 대표 기업으로 참석
LLM 발전 기반은 데이터…데이터 수집 및 공유 플랫폼 '1T 클럽' 소개

업스테이지 김성훈 대표가 '한미 ICT 정책 포럼'에서 AI 윤리와 신뢰성 관련 발표를 진행했다. (사진=업스테이지 제공) *재판매 및 DB 금지

[서울=뉴시스] 오동현 기자 = 자체 오픈 대규모언어모델(LLM)을 구축한 업스테이지가 한미 정책 논의를 위한 정부 간 협의체에서 인공지능(AI) 발전을 위한 데이터의 중요성을 강조했다.

업스테이지는 미국 워싱턴 국무부에서 개최된 '한미 ICT 정책 포럼’에 한국의 대표 기업으로 참석해 AI 윤리 및 신뢰성 관련 발표를 진행했다고 15일 밝혔다.

이번 포럼은 9월 12일부터 13일까지 민간기업과 정부가 함께 참여하는 민관 세션과 정부 세션으로 나뉘어 진행됐다.

업스테이지는 12일 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 업스테이지 대표는 ‘AI 윤리/신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 자사가 운영하는 데이터 수집 및 공유 플랫폼인 '1T 클럽’을 대표적인 사례로 소개했다.

김성훈 대표는 데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 컨텐츠 제공자와 수익을 공유하고 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있는 '1T 클럽’을 통해 다양한 분야의 전문가들과 협력을 위해 이를 위한 정부의 협력 필요성을 알렸다.

김성훈 대표는 글로벌의 연구그룹과 기업 등 다양한 조직들이 LLM의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있다면서, AI 기술 발전의 절반 이상은 데이터의 역할임을 강조했다. 특히 데이터 수집 단계부터 집중하며 수익을 공유함으로써 데이터를 제공하는 컨텐츠 부문도 더 활성화될 것이라고 전망했다.

김성훈 대표는 업스테이지가 좋은 데이터를 모으기 위해 ‘사람중심’, ‘신뢰성’, ‘공정성’, ‘안전성’, ‘보편성’의 5대 윤리원칙에 기반, 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환이 이뤄져 가장 중요한 진실되고 윤리적인 양질의 데이터를 모으는 데 앞장서고 있음을 강조했다.

업스테이지의 '1T 클럽’은 한국어 데이터의 부족 문제 해결은 물론, 데이터 제공자와 모델 제작 기업이 상생하는 생태계 확립을 통한 국내 LLM의 독립을 목표로 8월부터 신청을 받고 있다. 업스테이지는 1T 클럽을 통해 한국어 데이터를 확보하고 공유함으로써, 한국문화 정서를 담아낼 수 있는 고품질의 LLM을 개발하고 이를 통해 국내 생성 AI 다양한 분야의 애플리케이션에 활용, AI의 발전에 기여할 수 있을 것으로 기대하고 있다.

‘1T 클럽’에 참여하는 파트너사들은 ▲데이터 제공량에 비례한 API(응용 프로그래밍 인터페이스) 사용료 할인 ▲LLM의 API 사업으로 창출될 수익 공유 등 두 가지 방식으로 혜택을 받을 수 있다. 업스테이지는 크롤링을 통한 AI 학습으로 인해 저작권 이슈 등 부작용이 발생하는 문제 해결하고 데이터 제공자와 모델 제작자 모두가 혜택을 볼 수 있도록 운영할 계획이다.

업스테이지는 지난달 LLM 분야에서 챗GPT의 메인 모델인 GPT3.5의 벤치마크를 뛰어넘는 점수를 기록하며, AI 기술력을 인정받았다. 또한 업스테이지가 카카오톡을 통해 서비스하고 있는 챗봇 'AskUp’은 140만 명의 사용자가 활용하며, 국내 생성 AI의 대중화를 이끌고 있다. B2B(기업 간 거래)로는 신뢰할 수 있는 프라이빗 LLM의 표준을 제시하며, 데이터 보안을 극대화하고 AI의 환각 현상을 해결하는 등 다양한 기업들과 스몰 LLM(sLLM) 구축을 논의하고 있다.

한편, 같은 날 오전 윤석열 대통령 주재 ‘대한민국 초거대 AI 도약’ 회의에도 참석한 김성훈 대표는 AI 스타트업을 대표해 “대기업과 스타트업이 상생하는 생태계가 조성되면, 세계 1위를 차지한 AI 기술을 갖고 있는 업스테이지 같은 우리나라 대표 기업들은 글로벌 경쟁에서 승산이 있다”고 요청했다.

김성훈 대표는 2009년부터 홍콩과기대 교수로 재직하면서 10년 동안 가장 영향력 있는 논문상을 비롯, 세계 최고 권위 논문상을 다수 수상한 석학으로 네이버 클로바 AI 팀을 이끈 바 있다. 이후 지난 2020년 AI 기술을 보편화 하고 AI 전환을 가속화하기 위한 스타트업 업스테이지를 설립했다.

김성훈 대표는 "이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고, 협력을 강화하는 중요한 기회가 될 것이라고 기대한다"며 "업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고, 다양한 파트너들과 협력하고자 한다"고 말했다.

☞공감언론 뉴시스 odong85@newsis.com