Nvidia DGX Spark 租赁托管产品介绍


搭载英伟达Grace Blackwell架构GPU、CPU
NVIDIA Grace Blackwell architecture with integrated GPU and CPU
20核ARM处理器
- 20-core Arm processor with high-performance cores
搭载128 GB内存
- 128 GB unified system memory
- Advanced connectivity including Wi-Fi 7, 10 GbE, and ConnectX-7
- Support for AI models up to 200 billion parameters (or 405B for dual-Spark configuration) GPU
- NVIDIA Blackwell Architecture with 5th Generation Tensor Cores, 4th Generation RT Cores CPU
- 20-core Arm processor (10 Cortex-X925 + 10 Cortex-A725) Memory
- 128 GB LPDDR5x unified system memory, 256-bit interface, 4266 MHz, 273 GB/s bandwidth Video Processing
- 1x NVENC, 1x NVDEC

NVIDIA DGX Spark是面向企业的超高性能AI专用计算平台。
从LLM、生成式AI、视觉模型到大规模数据分析
提供超越研究用途、可进行实际服务运营的GPU算力。
✔ 基于最新NVIDIA GPU架构
✔ 基本搭载超高速NVLink及AI优化堆栈
✔ 企业级稳定性和可扩展性
✔ 大型LLM/多GPU训练环境优化
这不是简单的GPU服务器。
这是可以立即开始AI业务的完整平台。
AI初创公司/研究所/大学/科学
Llama / Mixtral / Qwen / Kimi / Stable Diffusion
微调、LoRA训练、RAG基础设施构建
内部LLM企业内部署用本地环境
大规模数据集训练及模型服务
基于GPU虚拟化的多租户支持
AI SaaS平台运营优化
可用作大型模型推理服务器
GPU租赁业务优化
AI时代的核心资产是GPU。
基础流量提供:月10TB
超出时每1GB收费40元
服务开通在付款后约需1天时间。