Informacja o produkcie hostingu wynajmu Nvidia DGX Spark


Wyposażony w GPU i CPU architektury NVIDIA Grace Blackwell
NVIDIA Grace Blackwell architecture with integrated GPU and CPU
20-rdzeniowy procesor ARM
- 20-core Arm processor with high-performance cores
Wyposażony w 128 GB pamięci
- 128 GB unified system memory
- Advanced connectivity including Wi-Fi 7, 10 GbE, and ConnectX-7
- Support for AI models up to 200 billion parameters (or 405B for dual-Spark configuration) GPU
- NVIDIA Blackwell Architecture with 5th Generation Tensor Cores, 4th Generation RT Cores CPU
- 20-core Arm processor (10 Cortex-X925 + 10 Cortex-A725) Memory
- 128 GB LPDDR5x unified system memory, 256-bit interface, 4266 MHz, 273 GB/s bandwidth Video Processing
- 1x NVENC, 1x NVDEC
https://build.nvidia.com/spark : Możliwość nauki z oficjalnymi materiałami edukacyjnymi NVIDIA.

NVIDIA DGX Spark to platforma obliczeniowa dedykowana AI o ultrawysokiej wydajności dla przedsiębiorstw.
Od LLM, generatywnej AI, modeli wizyjnych po analizę danych na dużą skalę
Zapewniamy moc GPU na poziomie umożliwiającym nie tylko badania, ale także działanie rzeczywistych usług.
✔ Oparte na najnowszej architekturze GPU NVIDIA
✔ Ultraszybki NVLink i stos zoptymalizowany pod AI jako standard
✔ Niezawodność i skalowalność klasy korporacyjnej
✔ Optymalizacja pod środowiska uczenia wielkich LLM / multi-GPU
To nie jest zwykły serwer GPU.
To gotowa platforma umożliwiająca natychmiastowe rozpoczęcie biznesu AI.
Startupy AI / Ośrodki badawcze / Uczelnie / Nauka
Llama / Mixtral / Qwen / Kimi / Stable Diffusion
Fine-tuning, uczenie LoRA, budowa infrastruktury RAG
Środowisko on-premise do wewnętrznego wdrażania LLM w firmie
Uczenie dużych zbiorów danych i serwowanie modeli
Możliwa wielodzierżawność oparta na wirtualizacji GPU
Optymalne do działania platform AI SaaS
Możliwość wykorzystania jako serwer wnioskowania dla dużych modeli
Zoptymalizowane pod biznes wynajmu GPU
Kluczowym zasobem w erze AI są GPU.
Podstawowy transfer: 10TB miesięcznie
Przy przekroczeniu 40 groszy za 1GB
Uruchomienie usługi zajmuje około 1 dnia po dokonaniu płatności.