스스로 배우는 AI, 사람 대신 반도체 설계한다

포스텍

왼쪽부터 김병섭 포스텍 전자전기공학과 교수, 정순규 통합과정, 최원준 통합과정, 최준웅 박사과정, Anik Biswas 석사(現 삼성전자). 포스텍 제공.

포스텍은 김병섭 전자전기공학과 교수 연구팀이 사람의 감각과 경험에 의존해 오던 아날로그 반도체 설계를 인공지능(AI)으로 자동화하는 기술을 개발했다고 29일 밝혔다. 연구 결과는 반도체 회로 및 시스템 분야 국제학술지 'IEEE 트랜잭션즈 온 서킷스 앤 시스템즈(IEEE Transactions on Circuits and Systems)'에 지난 해 10월 6일 게재됐다.

아날로그 반도체 설계는 회로 성능과 안정성을 좌우하는 구조를 수많은 규칙에 맞춰 사람이 직접 배치해야 하는 작업이다. 자동화를 시도하기에 구조가 지나치게 복잡하고 설계 방식도 회로마다 크게 달라 AI 적용도 쉽지 않다. 반도체 설계 데이터는 기업 핵심 자산으로 외부 공개가 제한돼 AI가 학습하는 데 필요한 데이터도 부족하다.

연구팀은 대규모 데이터로 먼저 학습한 뒤 소량의 추가 학습만으로 다양한 작업을 수행할 수 있는 범용 AI 모델인 '파운데이션 모델' 개념을 아날로그 반도체 레이아웃 설계에 적용했다. 사람이 정답을 알려주지 않아도 AI가 스스로 설계 규칙을 익히는 '자기지도학습' 방식을 사용했다.

연구팀은 아날로그 레이아웃을 작은 조각으로 나눈 뒤 일부를 가리고, 이를 다시 예측하도록 AI를 학습시켰다. 단 6종류의 반도체 설계 데이터로 약 32만 개의 학습 데이터를 자동으로 생성했다. 생성된 학습 데이터로 AI를 훈련시킨 결과, AI는 아날로그 레이아웃에 공통으로 반복되는 구조와 패턴을 스스로 파악했다.

기본 원리를 익힌 AI에 적은 양의 추가 데이터를 학습시킨 결과, AI는 반도체 레이아웃 설계에 필요한 다섯 가지 작업을 수행했다. 회로 층 간을 전기적으로 연결하는 구조를 생성하고, 금속 배선 경로를 설계하며 회로 안정성을 높이는 보조 패턴을 배치하는 등의 작업이다. 
 

실험 결과 AI가 생성한 레이아웃 96.6%가 설계 규칙과 회로 검증을 모두 통과했다. 기존 방식에 비해 8분의 1 수준의 데이터만으로도 동일한 성능을 달성했다.

이번 연구는 설계 인력의 부담을 줄이고 개발 기간을 단축해, 반도체 산업 전반의 생산성과 경쟁력을 높이는 데 기여할 것으로 기대된다. 김병섭 교수는 "데이터 부족으로 막혀 있던 아날로그 반도체 설계 자동화의 가능성을 실질적으로 확장할 수 있었다"고 말했다.

<참고>
doi.org/10.1109/TCSI.2025.3615646

[임정우 기자 jjwl@donga.com]