엔비디아, 반도체 팹에 AI 접목…시뮬레이션·공정 판단 속도 높인다

엔비디아(NVIDIA)가 반도체 제조 기업들과 가속 컴퓨팅, 물리 기반 AI, AI 에이전트, 디지털 트윈을 적용해 공정 분석과 시험에 드는 시간을 줄이고 있다. 엔비디아는 11월 3일 공식 블로그에서 엔지니어가 공정을 최적화하고 문제를 조기에 찾아 제조 전반의 의사결정을 개선하도록 돕는 'AI 기반 팹'의 적용 사례를 소개했다. 엔지니어가 전문성을 바탕으로 작업을 지휘하고 판단하되, 분석 결과를 기다리는 시간을 줄이는 방식이다.

공정 예측에서는 수일이 걸리는 계산을 밀리초 단위로 대체하는 사례가 나왔다. 엔비디아에 따르면 램리서치(Lam Research)는 NVIDIA PhysicsNeMo 프레임워크로 플라스마 거동을 밀리초 안에 예측할 수 있음을 시연했다. 반도체 식각에 쓰이는 전하를 띤 기체인 플라스마는 전기·화학·열 과정의 상호작용을 계산해야 해 전체 시뮬레이션에 수일이 걸린다. 물리 법칙을 학습한 AI는 매번 전체 모델을 다시 계산하지 않고도 공정 조건을 탐색하도록 돕는다.

시뮬레이션 자체를 가속하는 협력도 진행 중이다. 어플라이드 머티어리얼즈(Applied Materials)는 엔비디아와 원자 규모의 소재 탐색 및 공정 개발 가속에 협력하고 있다. 엔비디아는 NVIDIA cuDSS를 통합한 Ginestra 시뮬레이션 플랫폼이 CPU만 사용하는 방식보다 최대 10배 빠르게 실행되며, NVIDIA PhysicsNeMo를 적용한 ACE+ 다중물리 플랫폼은 형상 시뮬레이션을 최대 35배 빠르게 수행한다고 설명했다. 다중물리 소프트웨어 기업 콤솔(COMSOL)도 NVIDIA cuDSS 라이브러리로 반도체 제조 시뮬레이션을 최대 10배 가속하고 있다. 열전달·전기적 거동·기계적 응력 등의 상호작용을 모델링하는 계산이 빨라지면 장비와 공정의 대안을 더 많이 비교한 뒤 실제 시험 대상을 고를 수 있다.

회로 패턴을 실리콘에 인쇄하는 방식을 정하는 계산 리소그래피는 생산 규모에서 CPU만으로 처리하기에 계산량이 지나치게 크다. 지멘스(Siemens)는 Calibre 리소그래피 소프트웨어에 NVIDIA cuLitho를 통합하고 있으며, 엔비디아에 따르면 주요 시뮬레이션 작업에서 최대 17배의 가속 효과를 낸다. 이는 웨이퍼에 패턴을 인쇄하기 전에 검증할 수 있는 범위를 넓힌다. 계산 가속은 차세대 반도체 공정에 영향을 미치는 소재 거동과 반응 경로를 탐색하는 데도 활용할 수 있다.

AI 에이전트는 분석 결과를 실제 판단으로 연결하는 과정의 작업을 맡는다. 어드반테스트(Advantest)는 NVIDIA NeMo Switchyard AI 에이전트로 특정 작업에 적용할 AI 모델을 고르는 절차를 자동화하고 있다. 엔비디아는 시험 현장에서 수작업으로 순차 진행해 수시간이 들던 모델 선택의 응답 시간이 수분으로 줄었다고 전했다. 설계 수정, 시험 실패 조사, 생산 공정 조정 등의 의사결정 사이에 필요한 작업을 에이전트가 지원하는 사례다.

공장 전체의 변경안을 검토하는 데는 디지털 트윈이 쓰인다. 어플라이드 머티어리얼즈는 NVIDIA Omniverse 라이브러리로 팹 전체를 물리적으로 정확하게 재현한 디지털 트윈을 구축한다. 이를 활용해 자재 이동을 시뮬레이션하고 병목을 찾아 설비 배치와 운영 전략을 실제 적용 전에 평가할 수 있다. 배치·처리량·비용·공정 제어의 최적화를 가상으로 시험하면서 개별 공정을 넘어 공장 전체의 운영까지 검토하는 방식이다. 팹이 복잡해지고 잘못된 변경의 부담이 커지는 상황에서 실제 설비 시험에 드는 비용을 줄이는 데 도움이 된다.

엔비디아는 생산 데이터로 모델을 개선하고, 모델로 변경안을 평가한 뒤 그 결과를 생산 의사결정을 맡는 엔지니어에게 돌려주는 연결 구조를 반도체 제조의 향후 방향으로 제시했다. 첨단 칩 수요가 늘고 제조 공정이 복잡해질수록 공정 변경과 소재의 상호작용, 결함 원인을 파악하는 일이 중요해진다. 엔비디아는 이들 기술을 연결하면 매 생산 주기에서 얻은 지식을 더 빠르게 다음 판단에 반영할 수 있다고 설명했다.