메모리 대역폭·FP64 처리량 미공개…희소 연산 성능은 검증 과제
핵심 요약
- 엔비디아가 과학·공학 시뮬레이션용 Rubin HPC를 발표했다. 희소 데이터 가속과 7세대 NVLink를 결합하며, 코어 수만으로는 실제 작업 속도나 경쟁 제품 대비 성능을 판단하기 어렵다.
엔비디아(Nvidia)가 11월 16일 SC26에서 CUDA 코어가 5만 개를 넘는 과학·공학 연산용 GPU Rubin HPC를 발표했다. 회사는 2028년 공급을 예상하지만 메모리 대역폭, 64비트 배정밀도 연산인 FP64 처리량, 소비전력과 가격은 공개하지 않았다. 주요 대상인 희소 연산은 계산 능력보다 메모리 접근 속도에 좌우돼 코어 수만으로 실제 성능을 판단하기 어렵다.
Rubin HPC는 과학·공학·분석 분야의 시뮬레이션과 데이터 처리를 가속하도록 설계한 새로운 Vera Rubin GPU다. 엔비디아는 자사 GPU 기준 최다 CUDA 코어에 희소 데이터 가속과 GPU 간 통신을 위한 7세대 NVLink를 결합했다고 설명했다. 활용 대상으로는 기후 모델, 공학 시뮬레이션, 유전체 분석, 금융 위험 모델링에서 반복되는 희소 행렬 연산, 스텐실 계산, 정렬, 리덕션을 꼽았다. CUDA 개발에 참여한 이언 벅 엔비디아 하이퍼스케일·고성능 컴퓨팅 부문 부사장은 “과학과 공학 문제에 도전하는 에이전트에게 더 빠른 시뮬레이션은 더 빠른 발견을 의미한다”고 말했다.
구매자가 성능을 가늠하려면 GPU당 메모리 용량·대역폭, NVLink 7 대역폭, 네이티브 FP64 처리량, HPCG 같은 희소 연산 벤치마크에서 이론상 최고 성능 대비 실제 성능 비율을 확인해야 한다. 엔비디아는 메모리 종류와 출시 파트너·고객도 밝히지 않았다. 톰스하드웨어(Tom's Hardware) 역시 HBM 용량·대역폭 수치나 NVLink 7의 새로운 대역폭·물리 계층 정보를 확인하지 못했다고 보도했다. 메모리 대역폭은 메모리 병목 작업의 성능 상한을, NVLink 대역폭은 여러 GPU로 작업을 확장할 때의 효율을 좌우한다.
경쟁 제품인 에이엠디(AMD)의 Instinct MI430X는 Rubin HPC보다 1년 앞선 2027년 출시가 예상된다. AMD 제품 페이지에는 하드웨어 FP64 최고 성능 최대 288테라플롭스, HBM4 최대 432GB, 메모리 대역폭 초당 23.3테라바이트가 제시돼 있다. 예상 도입처는 오크리지 국립연구소의 Discovery와 유럽의 Alice Recoque·Herder 시스템이다. 다만 AMD는 FP64 비교 수치가 2026년 7월 기준 엔지니어링 추정이며 출시 시 달라질 수 있다고 명시했다. Rubin HPC는 해당 사양이 공개되지 않아 아직 직접 비교하기 어렵다.
희소 연산의 병목은 HPCG 결과에서 드러난다. 마이클 헤루, 잭 동가라, 표트르 루슈체크가 제안한 HPCG는 희소 반복 해법으로 실제 응용 프로그램의 데이터 접근 패턴을 평가한다. Top500이 사용하는 Linpack을 보완하며, 데이터가 프로세서 캐시에 담기에는 커 메모리와 상호연결 성능의 영향을 크게 받는다. 2025년 11월 HPCG 목록에서 1위 El Capitan은 17.41페타플롭스로 이론상 최고 성능의 0.6%에 그쳤다. 상위 10개 시스템 가운데 일본(Japan)의 Fugaku가 3.0%로 가장 높은 비율을 기록했고, Frontier는 0.7%, Aurora는 0.3%였다.
윌리엄스, 워터먼, 패터슨이 2009년 논문에서 설명한 루프라인 성능 모델에 따르면, 이동하는 데이터 바이트당 연산량이 적은 작업의 성능은 최고 연산 능력보다 메모리 대역폭에 제한된다. 스텐실 계산도 연산마다 메모리에 여러 차례 접근하는 전형적인 메모리 병목 작업이다. 희소 데이터 형식은 0이 아닌 값만 저장해 메모리를 아끼지만 개별 원소에 접근하는 과정은 복잡해진다. 엔비디아는 희소 데이터 가속이 코어에 데이터를 계속 공급한다고 설명했으나 구현 방식과 실측 결과는 공개하지 않았다. 실제 활용 가능한 대역폭이 개선되지 않으면 코어를 늘려도 일부가 유휴 상태로 남을 수 있다.
CUDA 코어 수와 FP64 성능도 구분해야 한다. 톰스하드웨어에 따르면 현재 Rubin GPU는 스트리밍 멀티프로세서 224개와 CUDA 코어 2만8672개를 갖췄다. 테크타임스(TechTimes)는 Rubin HPC의 코어 수가 이보다 최소 1.74배라고 계산했다. 톰스하드웨어는 Rubin Ultra처럼 4개 다이 패키지를 사용할 가능성을 제기했지만, 엔비디아는 Rubin HPC의 물리적 구성을 밝히지 않았다. CUDA의 정수·FP32·FP16·FP64 연산 자원 구성은 칩마다 달라 코어 수만으로 배정밀도 성능을 도출할 수 없다.
엔비디아의 현행 Rubin 사양은 FP32 130테라플롭스, FP64 33테라플롭스, HBM4 288GB다. 테크타임스 계산으로 FP32와 FP64의 비율은 약 3.9 대 1이다. 같은 비율을 유지한 채 코어가 1.74배로 늘어난다고 가정하면 FP64는 GPU당 최소 약 57테라플롭스로 계산되지만, 이는 설명을 위한 가정일 뿐 성능 전망은 아니다. 엔비디아는 Rubin HPC가 이 비율을 유지하는지 밝히지 않았다. FP64 처리량은 Linpack처럼 밀집 행렬을 다루는 배정밀도 작업에서 특히 중요하다.
엔비디아의 최근 제품에서는 FP64 자원 배분이 쟁점이었다. HPC와이어(HPCwire)는 FP64 Tensor Core 처리량이 Hopper의 67테라플롭스에서 B100의 30테라플롭스로 낮아졌고, Blackwell Ultra의 FP64 성능은 겨우 1테라플롭스 수준이라고 보도했다. 더레지스터(The Register)는 2026년 1월 Rubin의 FP64 33테라플롭스가 4년 된 H100보다 1테라플롭스 낮다고 전했다. 엔비디아는 소프트웨어 에뮬레이션으로 FP64 행렬 성능 최대 200테라플롭스를 낼 수 있다고 주장하지만, AMD 펠로인 니컬러스 말라야는 HPC 작업의 60~70%가 에뮬레이션에서 얻는 이점이 거의 없거나 전혀 없다고 추산했다.
엔비디아는 6월 불(Bull), 델 테크놀로지스(Dell Technologies), 기가바이트(Gigabyte), 에이치피이(HPE), 슈퍼마이크로(Supermicro)의 Vera Rubin NVL4 시스템이 2026년 4분기에 공급될 것으로 예상했다. 랙당 최대 144개 GPU를 쓰는 Vera Rubin 시스템의 네이티브 FP64 성능으로는 5페타플롭스를 제시했다. 테크타임스는 GPU당 약 33테라플롭스에 144개를 곱하면 약 4.75페타플롭스라며, 제시된 수치가 더 빠른 칩보다 GPU 개수와 부합한다고 설명했다.
톰스하드웨어가 2025년 8월 보도한 로드맵에는 NVLink 7·NVSwitch 7을 탑재하는 Rubin Ultra가 2027년, Feynman GPU가 2028년으로 제시됐다. 당시 로드맵에는 Rubin HPC가 없었으며, 이번 엔비디아 발표도 두 제품과의 관계를 설명하지 않았다. Rubin HPC의 구매 판단에는 코어 수를 넘어 희소 연산 실측치와 메모리·통신·FP64 사양, 소비전력·가격이 필요하다. 양사 수치 모두 각자의 작업 코드로 검증해야 할 공급업체 주장이라는 점도 남는다.
