카카오, 딥러닝 기반 '형태소 분석기' 오픈소스 제공
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
카카오가 인공지능(AI) 기술을 적용한 형태소 분석기술을 오픈소스로 공개한다고 30일 밝혔다.
딥러닝 기술 기반의 형태소 분석기가 오픈소스로 제공되는 것은 국내에서 처음이다.
카카오가 딥러닝 기술 기반으로 개발한 형태소 분석기 카이(khaiii, Kakao Hangul Analyzer III)는 형태소 분석기술은 2개 이상의 글자로 이뤄진 단어 혹은 문장을 입력할 경우 형태소 단위로 자동으로 분리하는 기술이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
한국어를 활용한 다양한 분야에 활용 가능
【서울=뉴시스】이국현 기자 = 카카오가 인공지능(AI) 기술을 적용한 형태소 분석기술을 오픈소스로 공개한다고 30일 밝혔다. 딥러닝 기술 기반의 형태소 분석기가 오픈소스로 제공되는 것은 국내에서 처음이다.
오픈소스 공개를 통해 한국어 연구, 챗봇·자연어 처리 응용기술 개발 등 한국어를 활용하는 다양한 분야에서 형태소 분석을 위한 비용과 시간을 줄일 수 있다.
카카오가 딥러닝 기술 기반으로 개발한 형태소 분석기 카이(khaiii, Kakao Hangul Analyzer III)는 형태소 분석기술은 2개 이상의 글자로 이뤄진 단어 혹은 문장을 입력할 경우 형태소 단위로 자동으로 분리하는 기술이다.
예를 들면 '학교에 간다'라고 입력하면 '학교/명사+ 에/조사+ 가/동사+ ㄴ다/어미' 로 형태소 단위와 품사를 파악해 분류한다. 주로 자연어처리 응용 서비스의 기반 기술로 사용되며, 정보 검색, 기계 번역, 스마트 스피커나 챗봇 등 여러 서비스에서 사용할 수 있다.
형태소 분석기 카이 딥러닝을 통해 학습한 데이터를 활용해 형태소를 분석한다. 딥러닝 기술 중 하나인 합성곱신경망(CNN, Convolutional Neural Network) 기술을 이용해 음절기반으로 형태소를 분석하는 방법을 채택했다.
카카오는 국립국어원에서 배포한 데이터인 세종 코퍼스를 기반으로 데이터의 오류를 수정하고 카카오에서 자체 구축한 데이터를 추가해 85만 문장, 1300만 어절의 데이터를 학습해 정확도를 높였다. 딥러닝 과정에서 C++ 언어를 적용해 일반적으로 딥러닝에 쓰이는 GPU(그래픽처리장치)를 사용하지 않고도 빠른 분석 속도를 구현했다.
카카오의 형태소 분석기 카이는 깃허브(GitHub)에서 확인할 수 있으며, 누구나 무료로 이용 가능하다.
김응균 자연어처리파트장은 "한국어를 연구자들에게 도움이 되기 위해 형태소 분석기를 공개하게 됐다"며 "향후 다양한 분야에서 딥러닝 기반의 기술연구를 진행하고 공유해 나갈 예정이다"고 밝혔다.
lgh@newsis.com
Copyright © 뉴시스. 무단전재 및 재배포 금지.
- 父 고소 박세리 "쉽지않은 시간이었지만 다시 시작"
- 유튜버 이해른, 자택서 숨진 채 발견…'궁금한 이야기Y' 제보 받는다
- 자우림 김윤아, 140평 집 최초 공개 "스튜디오만 5억"
- 이혼 서유리 "최병길, 6억 빌려 3억 안갚아…사채까지"
- 함수현, 은행원→무당 "평범하게 살려고 악썼다" 눈물
- 고소당한 강형욱 "진실 밝힐 것…허위비방 법적대응"
- 권혁수 "긁지 않은 복권이래서 45㎏ 감량했는데 꽝이…"
- "황정음, '이혼' 이영돈에 민사소송 제기…9억 빌려주고 못 받아"
- 조혜련, 김구라 12세 연하 아내 질투…왜?
- 나나, 전신 타투 다 지웠다…청순 여신의 반전 뒤태