프렌들리에이아이, 언어모델 학습 도구 발표

김미정 기자 2023. 7. 18. 13:30
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

프렌들리AI(대표 전병곤)는 거대언어모델(LLM) 학습 효율을 획기적으로 끌어올리는 시스템 '비파이프'를 이달 발표한다고 18일 밝혔다.

비파이브는 모델 학습 시 저장해야 하는 중간 계산 결과물을 메모리 여유가 있는 GPU에 맡겨 두는 새로운 파이프라인 병렬화 방법이다.

프렌들리AI는 지난해 GPT-3와 같은 언어모델 효율을 높이기 위한 '동적 배치 처리'와 '선택적 배치 처리'라는 핵심 기술을 적용한 엔진을 발표한 바 있다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

이달 국제머신러닝학회서 공개

(지디넷코리아=김미정 기자)프렌들리AI(대표 전병곤)는 거대언어모델(LLM) 학습 효율을 획기적으로 끌어올리는 시스템 '비파이프'를 이달 발표한다고 18일 밝혔다.

비파이브는 모델 학습 시 저장해야 하는 중간 계산 결과물을 메모리 여유가 있는 GPU에 맡겨 두는 새로운 파이프라인 병렬화 방법이다. 이를 통해 메모리 불균형을 해결한다. 결과적으로 같은 언어모델을 더 빠르고 효율적으로 학습한다.

프렌들리AI는 이달 25일부터 27일까지 미국 하와이에서 열리는 인공지능 학회 '국제머신러닝학회(ICML)'에서 비파이브를 공개할 예정이다.

(사진=프렌들리AI)

프렌들리AI는 지난해 GPT-3와 같은 언어모델 효율을 높이기 위한 ‘동적 배치 처리’와 ‘선택적 배치 처리’라는 핵심 기술을 적용한 엔진을 발표한 바 있다.

김미정 기자(notyetkim@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?