한동대, 세계 최초로 '감정표현' 노래음성합성 AI 개발

경북 포항 한동대(최도성 총장) 전산전자공학부 딥러닝 연구실이 세계 최초로 감정 표현이 가능한 다중화자 노래음성합성AI '뮤즈SVS(MuseSVS)'를 개발했다.

노래음성합성(Singing Voice Synthesis, SVS)은 악보를 입력하면 노래음성을 합성하는 AI 기술이다.

기존의 AI들은 대부분 노래를 부르는 음성만을 합성할 수 있었던 반면, 감정을 반영해 음성을 합성하는 AI는 아직까지 없었다.

이번에 한동대가 개발한 MuseSVS는 악보와 함께 화자, 감정의 종류와 강도를 입력하면 그에 따라 음색, 비브라토, 볼륨이 다른 노래음성을 합성한다.

특히, 이번 노래음성합성 AI에 최초로 적용된 통계적 음정 예측기와 문맥기반 음표길이 예측기는 감정표현을 위한 미세한 음정과 박자의 미세한 변화를 효과적으로 합성하는 것이 특징이다.

MuseSVS는 음성처리분야의 세계 최고 저널인 IEEE/ACM Transactions on Audio, Speech and Language Processing(TASLP)에 발표됐다.

한동대 딥러닝 연구실의 지도교수인 김인중 교수는 "사람은 동일한 노래를 부를 때라도 음정, 박자, 볼륨의 미세한 변화를 통해 감정을 표현하는데 MuseSVS는 이러한 미세한 변화를 데이터로부터 효과적으로 학습한다"고 말했다.

이어 "MuseSVS는 음정과 박자의 거시적인 흐름은 악보를 따르되, 미시적인 변화는 지정된 감정의 종류 및 강도에 따라 다르게 합성한다"고 덧붙였다.

한편, MuseSVS의 개발은 김성재(한동대 박사과정)이 주도했으며, 김예원(한동대 석사과정), 전제우 (한동대 학부과정) 등 한동대 학생들이 참여했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

포항CBS 김대기 기자 kdk@cbs.co.kr

▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기

사회