비싼 GPU 없어도‥한국 '가성비 AI'의 도전

[뉴스외전]

◀ 앵커 ▶

고성능 인공지능 모델을 개발하기 위해 그래픽 카드를 사고 데이터 센터를 구축하는 비용이 수십, 수백조 원에 이른다고 하죠.

'거대 모델'을 고수하지 않는다면 이 정도 돈을 들이지 않고도 인공지능을 활용할 수 있는 방법이 있다고 하는데요.

박진준 기자가 전해드립니다.

◀ 리포트 ▶

세계 최대 이동통신기술 전시회 MWC.

국내 반도체 개발 스타트업의 전시관에 손님들의 질문이 이어집니다.

[해외 바이어] "이 제품은 내장된 프로세서로만 작동하는 건가요?"

가로*세로 2cm짜리 AI 전용 반도체.

가정용 컴퓨터에 이 칩을 꽂으면 인공지능 기술을 구현할 수 있는 고성능 컴퓨터가 됩니다.

[윤상현/AI 반도체 개발업체 이사] "AI형으로 최적화돼서 이제 병렬 연산을 잘 수행할 수 있게끔 나온 솔루션이라고 보시면 됩니다."

챗 GPT, 제미나이 등 거대언어모델은 데이터가 먼 거리를 이동해 서버까지 갔다 와야 하는데, 서버 운영에 전기와 고성능 그래픽카드가 많이 듭니다.

하지만 스마트폰, 드론, 로봇, 전자제품에 아예 AI 반도체를 장착하면 전기도 적게 쓰고 데이터는 이동할 필요가 없어집니다.

거대한 서버가 필요없는 작은 AI 기술엔, 전용 반도체로 경제성을 더하는 겁니다.

국내 스타트업이 개발한 생성형 AI.

기타 치는 곰돌이 영상을 만들라고 명령하자, 30초 만에 귀여운 곰돌이의 모습이 뚝딱 만들어집니다.

역시 AI가 화두였던 세계 최대 IT 전시회 CES에서 혁신상을 받은 기술입니다.

비싼 그래픽카드가 아닌 일반 CPU, 그러니까 가정용 PC에서도 작동하도록 AI를 경량화했습니다.

[유승재/AI프로그램 개발회사 대표] "수치화 계량화시키고 불필요한 걸 제거하고 그리고 프루닝(가지치기) 같은 다양한 AI 기법들을 활용해서 정말 쓸 수 있는 필요로 하는 그런 데이터들을 남기고요."

일상 생활에서의 활용도가 커져야 그 가치도 높아지는 AI.

딥시크 쇼크로 정부가 2조 원을 들여 고성능 그래픽 카드 2만 장을 사겠다고 했지만, 이게 AI 경쟁력을 확보하는 유일한 방법은 아니란 지적이 나옵니다.

MBC뉴스 박진준입니다.

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

박진준 기자(jinjunp@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2025/nw1400/article/6694358_36776.html