“비용 걱정 뚝”… 가성비 소형AI-양자AI가 뜬다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
16일 서울 성북구 안암동 고려대 연구실.
보안성이 높고 학습과 구동에 비교적 적은 비용이 드는 AI 소형언어모델 개발 경쟁이 치열하게 벌어지고 있다.
대형언어모델이 세상 모든 영역을 다 아우른다면 소형언어모델은 법률, 의료, 통신, 금융 등 좁은 영역에서 특화된 서비스를 효율적으로 개발하고자 하는 기업에서 수요가 높다.
국내에서 대표적으로 소형언어모델 서비스를 개발 중인 기업은 업스테이지다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
“작은 AI가 맵다, 저비용 고효율”
고려대 개발 의료AI, 美기준 통과
법률-통신-금융 특화 모델 쏟아져
16일 서울 성북구 안암동 고려대 연구실. 컴퓨터학과 강재우 교수가 ‘관상동맥 스탠트 시술 후 2주가 지난 61세 남성 내원. 소변량 줄고 전신 불편감. 발에 그물 모양의 보라색 변색’이라고 환자의 상태를 입력했다. 그러자 강 교수 연구팀이 개발한 인공지능(AI) 언어모델 ‘미어캣’이 즉시 “콜레스테롤 색전증 증후군(Cholesterol Embolisation Syndrome)이 나타난 것 같다”고 답했다. 의사처럼 진단을 내린 것이다.
보안성이 높고 학습과 구동에 비교적 적은 비용이 드는 AI 소형언어모델 개발 경쟁이 치열하게 벌어지고 있다. 대형언어모델에 비해 가볍게 운용할 수 있는 이른바 ‘가성비 AI’에 대한 수요가 높아진 것이다. 대형언어모델이 세상 모든 영역을 다 아우른다면 소형언어모델은 법률, 의료, 통신, 금융 등 좁은 영역에서 특화된 서비스를 효율적으로 개발하고자 하는 기업에서 수요가 높다.
국내에서 대표적으로 소형언어모델 서비스를 개발 중인 기업은 업스테이지다. 107억 파라미터를 가진 ‘솔라’를 활용해 로앤컴퍼니, 케이뱅크 등과 함께 법률, 금융 등에 특화된 서비스를 개발하고 있다.
16일 1000억 원에 달하는 시리즈 B 투자 유치에 성공한 것도 효율적인 기업용 언어모델을 개발할 수 있는 기술력을 인정받았기 때문이다.
최근 업계의 최대 화두로 떠오른 AI 반도체 공급난과 전력난도 기업들이 소형언어모델에 집중하는 이유다. 업스테이지 관계자는 “현재 소형언어모델은 대형언어모델과 성능이 유사하면서도 학습 및 구동 비용이 10분의 1 수준으로 낮다”며 “데이터를 학습시키는 시간과 비용을 절감할 수 있다는 것이 소형언어모델의 가장 큰 장점”이라고 말했다.
국내 통신사들도 소형화에 주목하고 있다. KT는 2100억 개 이상 파라미터를 가진 대형언어모델 ‘믿음’을 70억∼400억 개 수준으로 경량화해 특정 분야에 제공할 계획이다. LG유플러스가 상반기 내 공개를 앞둔 언어모델 ‘익시젠’도 소형언어모델로 개발이 진행 중이다.
글로벌 빅테크들도 잇따라 소형언어모델을 공개 중이다. 구글은 앞서 2월 20억∼70억 파라미터 수준의 소형언어모델 ‘젬마’를 발표했다. 지난달 애플은 8000만∼30억 파라미터를 가진 소형언어모델 ‘렘’을 공개했다. 업계에서는 애플이 아이폰 등에 소형언어모델을 탑재해 인터넷 연결이 필요 없는 ‘온디바이스 AI’ 서비스에 나설 것으로 전망하고 있다. 삼성전자는 온디바이스 AI 스마트폰 ‘갤럭시 S24’에 자체 언어모델 ‘삼성가우스’의 일부 기능을 경량화해 탑재했다.
전남혁 기자 forward@donga.com
Copyright © 동아일보. 무단전재 및 재배포 금지.
- 전당대회 룰 두고 쪼개지는 여당… 소장파-친윤 ‘주도권 싸움’
- “국민 화병 풀겠다”…‘김건희 여사 종합특검법’ 벼르는 야권
- “영남중심 주류세력, ‘수도권 폭망’ 외면 …위기인 줄도 몰라”
- 이상민 “홍준표, ‘한동훈 특검 준비’ 표현은 폭압적”[중립기어]
- 박영선 총리 하마평에…민주 “제2의 최순실 밝혀라” “야당 분열공작”
- 총선 끝나자 김 가격 20%↑… 밥상물가 줄인상 신호탄
- 수시로 재채기가 나고 코가 자주 막힌다.
- 美, 이스라엘 공격한 이란 드론·철강 산업 등 제재
- ‘술판, 창고→녹화실’ 말바꾼 이화영측, 회유장소 ‘검사 휴게실’ 추가 지목
- 충남 서천 한 자동차공업사서 불…건물 3동 태워