NVIDIA, DGX Spark 64GB 10월 23일 공급 예고…로컬 AI 확대

NVIDIA는 10월 21일 GTC Berlin에서 로컬 AI 제품군 확대 계획을 공개하고, DGX Spark 64GB 시스템을 파트너사를 통해 10월 23일부터 공급한다고 밝혔다. 개인용 Windows PC부터 Linux 기반 개발·기업용 장비까지 AI 에이전트와 모델을 실행하는 하드웨어, 소프트웨어 지원을 함께 확장한다.

로컬 AI는 사용자 장치에서 AI 모델과 에이전트를 실행하는 방식이다. NVIDIA는 RTX Spark를 개인용 에이전트와 콘텐츠 제작에, DGX Spark를 개발자의 애플리케이션 구축·확장에, DGX Station을 기업 팀의 대규모 AI 작업에 배치했다. 사용자는 작업 규모에 맞춰 단일 장치나 여러 장비를 연결한 구성을 선택할 수 있다.

새 DGX Spark 64GB 시스템은 Nemotron 3.5 Bolt 74B 24GB, Qwen3.8 27B, Gemma 4 26B-A4B 등의 모델을 실행한다. NVIDIA는 용량이 더 필요한 개발자를 위해 내장 NVIDIA ConnectX-7 네트워크와 NVIDIA Sync Cluster Assistant를 이용한 장비 연결 기능도 제공한다고 설명했다.

NVIDIA에 따르면 DGX Spark는 수동 구성으로 최대 8대까지 연결해 1TB 통합 메모리를 활용할 수 있다. 여러 개발자가 같은 모델에 동시 접속하는 소규모 팀의 공용 백엔드로 활용하고, 더 큰 모델과 긴 문맥, 동시 에이전트 실행, 분산 개발을 지원한다. NVIDIA는 이 구성에서 GLM 5.3 같은 모델을 실행할 수 있다고 밝혔다.

DGX Spark 연결 구성은 Qwen 3.8 Flash Next, DeepSeek v4 Flash 0731, GLM 5.3 Flash 등 코딩 모델도 지원한다. NVIDIA는 단일 DGX Spark와 클러스터의 모델 실행 절차를 줄이는 NVIDIA Sync Model Launcher를 10월 중 제공할 예정이다.

Model Launcher는 사용자가 몇 차례 클릭하면 장비 구성에 맞는 모델과 컨테이너를 내려받아 OpenCode에 연결한다. 문제 해결, 장치 유지보수, 공식 문서 접근, 작업 절차 안내에 쓰는 DGX Spark Skills도 자동으로 불러올 수 있다.

NVIDIA의 10월 DGX Spark 소프트웨어 업데이트에는 어플라이언스 모드에서 장비의 네트워크를 전환하는 Wi-Fi Assistant가 포함됐다. DGX Spark Skills는 OpenCode를 통해 NVIDIA Sync 안에서 문제 해결과 장치 유지보수 지침을 제공한다. DGX Spark 시스템 공급사는 Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo, MSI, NVIDIA다.

기업용 DGX Station은 748GB 일관성 메모리와 NVIDIA가 밝힌 최대 20페타플롭스의 AI 성능을 갖췄다. NVIDIA는 GLM 5.3 같은 모델을 실행하면서 30명 이상의 사용자에게 클라우드 모델과 비슷한 속도로 서비스를 제공할 수 있다고 설명했다. NVIDIA Sync는 DGX Station도 지원하며 Linux 기반 시스템 2대의 연결을 간소화한다.

NVIDIA는 DGX Station의 Windows 버전을 12월 시스템 제조 파트너사를 통해 출시할 예정이라고 밝혔다. 개발자는 한 장비에서 NVIDIA RTX PRO GPU를 사용하는 전문 애플리케이션과 NVIDIA GB300 시스템에서 대규모 언어 모델을 실행하는 에이전트를 연결하는 작업 흐름을 구축할 수 있다.

DGX Station의 Windows 버전은 기업이 사용하는 Windows 네이티브 소프트웨어에서 로컬 모델과 도구, 에이전트에 접근하도록 지원한다. 제조 분야 지원 대상은 nTop, Dassault Systèmes, Keysight Technologies, MathWorks, Rockwell Automation, Siemens, Synopsys, Unity, Altera의 애플리케이션이다. NVIDIA는 AI 기반 설계·시뮬레이션·검증·엔지니어링 자동화와 함께 Hermes Agent, Perplexity, Aible을 이용한 사내 에이전트 실행을 지원할 계획이라고 설명했다.

기업의 장비 도입·관리 기능도 확대한다. NVIDIA는 Absolute Security, Splunk by Cisco, Fleet Device Management, Microsoft Intune, Perforce Puppet, Progress Software Chef, Tanium 등 7개 도구와의 연동을 발표했다. IT 팀은 기업의 설치·관리·규정 준수 절차에 DGX Station을 통합해 관리한다.

NVIDIA Cloud Functions는 Linux 기반 DGX Station에서 얼리 액세스로 제공할 예정이다. 팀은 로컬 모델 엔드포인트를 공유 카탈로그에 등록하고 OpenAI 호환 접속점 하나를 통해 이용한다. 애플리케이션 코드를 바꾸지 않고 엔드포인트의 모델을 교체하거나, 팀원이 장비에 직접 접속하지 않고 공유 모델을 이용하는 방식이다.

NVIDIA는 로봇 개발을 위한 오픈소스 참조 작업 흐름 3개도 공개했다. GPT-6 Astra, NVIDIA Isaac Lab, Isaac Lab-Arena, Cosmos를 DGX Station에 연결해 GR00T 1.7의 강화학습, 정교한 조작 기술 훈련, 합성 데이터 생성을 위한 Cosmos 월드 모델 사후학습을 지원한다. 로봇 개발 팀은 전용 연산 자원으로 사후학습·시뮬레이션·평가를 수행할 수 있다.

GTC Berlin 전시장에서 NVIDIA는 DGX Station으로 DSX OS를 실행해 전체 인프라가 마련되기 전 AI 팩토리 운영을 시뮬레이션하는 모습을 시연한다. DGX Station으로 30명 넘는 소프트웨어 개발자를 지원하는 로컬 토큰 팩토리 시연도 선보일 예정이다.

DGX Station은 현재 ASUS, Dell Technologies, GIGABYTE, HP, MSI, Supermicro, Exxact가 출하하고 있다. Windows 버전은 ASUS, Dell Technologies, GIGABYTE, HP, MSI, Supermicro가 올해 안에 출하를 시작할 것으로 NVIDIA는 예상했다.

개인용 RTX Spark는 10월 16일 출시한 Windows PC 플랫폼이다. NVIDIA에 따르면 RTX Spark는 최대 128GB 통합 메모리와 1페타플롭스 AI 연산 성능을 제공하며, 개인용 에이전트 실행과 콘텐츠 제작, 1440p 해상도·초당 100프레임 게임을 지원한다.

NVIDIA는 완전한 로컬·비공개 AI 실행을 지향하는 데스크톱 에이전트 앱 Underdog도 RTX Spark에서 내려받을 수 있다고 밝혔다. Underdog은 모델별 추론 엔진 Husky를 통해 모델을 장치 안에서 실행하며, 사용자 데이터를 PC 밖으로 보내지 않고 개인용 에이전트 작업을 처리하도록 설계했다. 여러 RTX Spark 노트북은 개발자가 로컬 에이전트를 구축·맞춤화하도록 잠금 해제된 부트로더를 제공한다.

Jensen Huang NVIDIA 창업자 겸 최고경영자(CEO)는 GTC 기조연설에서 RTX Spark의 AI 에이전트가 NVIDIA Isaac Lab, Hermes Agent, Nemotron 3.5 Bolt 74B로 Hugging Face의 Microduck 로봇을 훈련하는 모습을 시연했다. RTX Spark 노트북은 ASUS, Dell Technologies, HP, Lenovo, Microsoft, MSI가 판매하고 있으며 Acer도 출시할 예정이다.

로컬 코딩 모델로는 Recursive Superintelligence가 10월 21일 공개한 Recursive Flint가 추가됐다. 전체 매개변수 400억 개 중 25억 개를 활성화하는 전문가 혼합 모델이다. NVIDIA는 64GB RTX Spark에서 초당 220토큰을 넘는 추론 속도를 낸다고 밝혔다.

Recursive Flint는 대규모 자동 AI 연구 시스템인 Eureka Machine으로 개발했다. Eureka Machine은 아이디어 제안부터 구현, 검증 실험, 다음 실험 결정까지 연구 과정을 자동화한다. NVIDIA에 따르면 이 시스템이 만든 전용 커널은 모델 가중치를 바꾸지 않고 RTX Spark에서 Flint의 생성 속도를 55% 높였다.

NVIDIA는 Recursive Flint의 에이전트 코딩 성능을 평가한 벤치마크로 SWE-Bench Pro v2, Terminal-Bench 2.1, SWE-bench verified를 제시했다. 개발자는 Hugging Face에서 Apache 2.0 라이선스의 공개 가중치를 내려받아 RTX Spark, DGX Spark, GeForce RTX·RTX PRO GPU에서 실행할 수 있다. 사후학습 도구로는 지도 미세조정과 저랭크 적응을 위한 NeMo Automodel, 그룹 상대 정책 최적화를 위한 NeMo RL을 제공한다.

NVIDIA는 새 모델의 출시 당일 지원 대상에 NVIDIA Nemotron Bolt E4B 4B, GLM, DeepSeek, Qwen, MiniMax, Liquid AI의 LFM2.5-24B-A2B와 FLUX.3 Klein을 포함했다. Nemotron Bolt E4B는 10월 23일 공개할 예정이며, NVIDIA에 따르면 4GB의 메모리에서도 자연스러운 대화와 여러 차례 이어지는 에이전트 작업을 처리할 수 있다. GeForce RTX GPU, NVIDIA Jetson 장치, RTX Spark, DGX Spark에서 로컬 음성 비서·게임 캐릭터·임베디드 인터페이스 실행을 지원한다.

Black Forest Labs의 FLUX 3 Image Klein은 이미지 생성·편집용 공개 가중치 모델로 매개변수 56억 개를 갖췄다. NVIDIA는 최적화 버전이 VRAM 8GB의 GeForce RTX GPU에서도 동작하고, RTX 5090 GPU에서 100만 화소 이미지를 약 4초 만에 생성한다고 설명했다. MiniMax M3.1 Flash는 DGX Station과 DGX Spark를 위한 긴 문맥 처리용 공개 모델이다.

Liquid AI의 공개 가중치 추론 모델 LFM2.5-24B-A2B는 토큰마다 전체 매개변수 240억 개 중 20억 개만 활성화한다. NVIDIA는 이 모델로 PC에서 도구를 호출하는 비공개 AI 에이전트를 직접 실행할 수 있다고 밝혔다. 개발자는 DGX Spark와 RTX Spark의 NeMo AutoModel로 새 모델을 출시 당일부터 사후학습할 수 있으며, Nemotron Bolt E4B와 Flux 3 Image Klein 등의 예제 레시피를 활용할 수 있다.

NVIDIA는 로컬 장비의 RAM 사용 효율을 높인 모델 체크포인트 모음도 공개했다. 양자화로 전체 정밀도에 가까운 정확도를 유지하면서 KV 캐시용 메모리를 확보하도록 구성했다는 설명이다. Qwen3.8-Flash-Next-FP4-Local은 DGX Spark 128GB 1대 또는 RTX PRO 6000에서, GLM-5.3-Flash-FP4-Local은 시스템 2대에서 실행하도록 최적화했다.

추론 엔진 개선도 병행한다. NVIDIA에 따르면 llama.cpp는 Qwen 3.8 Flash Next용 MTP 기반 추측 디코딩을 새로 지원해 RTX PRO 6000 Blackwell에서 에이전트 작업의 전체 처리 속도를 최대 1.4배 높였다. vLLM은 추측 디코딩 개선과 Qwen의 선형 어텐션 계층용 FlashInfer 프리필 커널을 적용해 DGX Spark의 Qwen3.8 27B 에이전트 작업을 최대 1.3배 빠르게 처리한다.

NVIDIA는 DGX Station에서 vLLM을 사용하는 GLM 5.3 Flash의 처리량도 최대 1.2배 높아졌다고 설명했다. 개인 PC의 에이전트부터 팀이 공유하는 로컬 추론 서비스까지, 이번 발표는 장비 용량 확대와 모델 실행·관리 도구 지원을 함께 담고 있다.