AI 가상계측, 불량 반도체 잡아내는 ‘절대미각 셰프’

김영한 가우스랩스 대표 인터뷰

김영한 가우스랩스 대표가 2024년 12월 일본 도쿄에서 열린 ‘세미콘 재팬 2024’ 행사에서 인터뷰하고 있다. 가우스랩스·일본무역진흥회(JETRO) 제공

최근 종영한 넷플릭스 예능 프로그램 ‘흑백요리사’ 속 셰프들은 요리 중간중간 소스와 재료의 ‘간’을 본다. 맛이 정확하게 구현되도록 중간 점검을 하는 것이다. 첨단 제조업의 정점으로 불리는 반도체 공정에도 이처럼 ‘간을 보는’ 과정이 있다. 각 공정이 끝날 때마다 반도체 원판인 웨이퍼에 빛을 쏘고, 여기서 반사된 빛으로 상태를 측정해 불량을 잡아내는 ‘계측 공정’이 그것이다. 에스케이(SK)하이닉스의 경기도 이천 공장(M14)에선 로봇 700여대가 천장 레일을 따라 실리콘 웨이퍼들을 실어 나르며 매일 계측 공정을 수행한다.

하이닉스는 2020년 ‘산업용 인공지능(AI)’ 전문 기업으로 출범한 가우스랩스에 5500만달러(약 800억원)를 투자했다. 미국에 본사를 둔 이 회사는 하이닉스의 반도체 공장에 인공지능 기술을 적용한 ‘가상 계측’ 솔루션을 제공하고 있다.

최근 서울 강남구 역삼동 사무실에서 만난 김영한 가우스랩스 대표는 가상 계측을 요리에 비유했다. “제조업의 가장 기본은 붕어빵을 찍어내듯 모든 제품을 정교하고 동일하게 만드는 ‘균일성’입니다.” 일일이 소스의 간을 보지 않고도 데이터만으로 결과물을 예측해 요리 수백 접시가 모두 똑같은 맛을 내도록 조절하는 ‘꿈의 기술’이 가상 계측이라는 설명이다.

에스케이(SK)하이닉스의 반도체 공장 내 클린룸(청정실). 에스케이하이닉스 뉴스룸 제공

그는 “일부 샘플만 뽑아 검사하는 기존 계측 방식은 균일성이라는 목표를 달성하기에 한계가 크다”며 “가상 계측은 전수 검사를 하듯 공정 결과를 미리 유추하고, 불량이 예상될 경우 필요한 조처를 하는 방식”이라고 말했다. 반도체 설비에 부착된 센서는 매일 페타바이트(1페타바이트는 1천테라바이트) 규모의 정보를 쏟아낸다. 이 막대한 데이터로 웨이퍼의 품질을 실시간 예측하고 공정을 조절한다. 김 대표는 미국 샌디에이고 캘리포니아대(UCSD) 명예 교수이자 데이터 과학 분야의 석학이다.

가상 계측의 가장 큰 장점은 웨이퍼 검사에 소요되는 시간과 비용을 획기적으로 절감할 수 있다는 점이다. 하지만 그동안 제조 현장에선 기술적 한계 탓에 외면받아 왔다. 김 대표는 “제조업 데이터는 시간이 흐르면서 특성이 계속 변한다는 특징이 있다”며 “그때마다 데이터 전문가가 수작업으로 한 땀 한 땀 데이터를 다시 정제해야 하는 번거로움이 있었다”고 했다.

라면집에서 냄비 하나로 여러 그릇의 라면을 끓이는 경우를 가정해보자. 냄비에 눌어붙은 수프가 누적될수록 라면 맛은 짜지기 마련이다. 반면 냄비를 설거지하면 염도는 다시 낮아진다. 제조 데이터 역시 이처럼 값이 들쭉날쭉해지는 고질적인 문제가 있다는 얘기다.

가우스랩스가 찾은 ‘킥’(요리의 맛을 살리는 비법)은 여기에 인공지능을 적용하는 것이었다. 과거 전문가가 수작업으로 처리하던 과정을 인공지능으로 자동화했다. 인공지능은 전문가처럼 실시간으로 변화하는 제조 정보를 정제할 뿐만 아니라, 예측 정확도를 높이는 주요 변수(피처) 선정, 모델 개발 및 업데이트 등을 아우르는 ‘컨트롤타워’ 구실을 한다.

인공지능 ‘반도체 간 보기’ 공정은 휴머노이드 로봇(인간을 본뜬 로봇), 챗봇처럼 겉보기에 화려하거나 눈길을 끌지는 않는다. 반도체 수율(양품 비율) 향상에 당장 가시적인 성과가 나타나지 않을 수도 있다. 그러나 김 대표는 ‘기술의 내실’이 중요하다고 강조한다. 피지컬(물리적) 인공지능, 디지털 트윈(현실 세계를 가상 공간에 구현한 복제판) 등은 미국 엔비디아가 칩 마케팅을 위해 강조하는 흐름에 가깝다. 유행을 좇기보다 한국 제조업이 가진 강점에 최적화한 인공지능 기술 개발에 집중해야 한다는 주장이다.

김 대표는 최근 챗지피티(GPT) 등 거대언어모델(LLM) 기반의 인공지능이 인기를 끌지만, 한국의 제조업 인공지능 전략은 이와는 달라야 한다고 지적했다. 그는 “제조 강국인 한국은 언어 기반 인공지능이 아니라, 공장에서 생산되는 막대한 제조 데이터를 활용해 기존 제조업을 차원이 다른 수준으로 혁신할 수 있는 인공지능 개발에 초점을 맞춰야 한다”고 강조했다. “한국이 글로벌 경쟁에서 앞서려면 우리에게 비교우위가 없는 서비스 분야가 아니라, ‘제조 인공지능’을 만드는 데 훨씬 많은 정책적 자원을 투입해야 한다”는 것이다. 김 대표는 “특히 중소기업이 보유한 데이터를 인공지능으로 활용할 수 있도록 정부가 나서서 데이터 표준화 등 인프라를 마련하는 것이 시급하다”고 제언했다.

에스케이(SK)하이닉스의 반도체 공장 내 클린룸(청정실). 에스케이하이닉스 뉴스룸 제공

제조업의 인공지능 전환(DX)은 당장 성과가 나지 않아도 인내심을 갖고 추진해야 하는 마라톤과 같다. 일시적인 유행을 넘어 수많은 오차와 시행착오를 견뎌야 한다는 의미다. 이는 누구나 인정하는 거장 셰프가 되기까지 주방 보조, 파트장, 수셰프(부주방장) 등의 과정을 묵묵히 거쳐야 하는 것과 마찬가지다.

김 대표는 “거대한 데이터와 자본을 앞세워 제조 인공지능 분야를 선점하려는 중국과 비교했을 때, 한국이 우위에 있다고 결코 단언할 수 없다”며 “제조 인공지능 생태계 구축을 위해 장기적인 안목을 바탕으로 우리만의 독자적인 전략을 밀어붙여야 한다”고 했다. 고난도 기술이 필요한 반도체 공장에 도입된 인공지능은 우리 제조업의 미래를 가늠할 이정표다. 하이닉스는 이 같은 인공지능 투자에만 향후 100억달러(약 14조4천억원)를 쏟아부을 예정이다.

박종오 기자 pjo2@hani.co.kr