NVIDIA DGX Spark · GB10 Grace Blackwell

Die NVIDIA DGX Spark: ab 0,79 $/h mieten oder kaufen

Die NVIDIA DGX Spark ist ein Desktop-KI-Computer: ein GB10 Grace Blackwell Superchip mit 128 GB Unified Memory bei 273 GB/s, mit NVIDIAs DGX OS. Sie können bei GPUwerk eine DGX Spark mieten für 0,79 $ pro Stunde, minutengenau abgerechnet, oder eine kaufen. Diese Seite erklärt, was sie ist, was sie in GPUwerks Flotte misst und wo sie unterliegt.

Von Samuel Seidel · Aktualisiert am 24. Oktober 2026. Ausführlich: Technische Daten der DGX Spark, Preis der DGX Spark, Benchmarks der DGX Spark und der Spark-Cluster aus zwei verbundenen Maschinen.

128GBUnified Memory mit 273 GB/s Speicherbandbreite
0,79 $Pro Stunde bei GPUwerk, minutengenau abgerechnet, oder 1,79 $ pro Stunde für einen 256-GB-Cluster aus zwei Nodes
1PFLOPFP4-KI-Rechenleistung, sparse, vom NVIDIA GB10 Grace Blackwell Superchip
200Gb/sConnectX-7-Netzwerk mit zwei QSFP-Ports. NVIDIA spezifiziert zwei verbundene Maschinen für Modelle mit bis zu 400B Parametern

GPUwerk vermietet dedizierte NVIDIA DGX Sparks minutengenau in Europa, Nordamerika und Ostasien: eigene Maschinen in Tschechien und Sparks von Partnern in anderen Ländern. Eine Spark kostet 0,79 $ pro Stunde und ein 256-GB-Cluster aus zwei Nodes 1,79 $ pro Stunde, vom Prepaid-Guthaben ohne Abo. Sie arbeiten im Browser-Terminal oder per Root-SSH. Beenden Sie die Instanz, wenn Sie fertig sind, dann endet die Abrechnung. So mieten Sie eine DGX Spark.

NVIDIAs US-Listenpreis beträgt 6.950 $ (geprüft am 11. Oktober 2026), gegenüber 3.999 $ zum Marktstart: siehe Preisentwicklung der DGX Spark und EU-Angebote. NVIDIA DGX Spark im GPUwerk-Store kaufen →

Technische Daten

Die Hardware in einer Tabelle.

Pro Node. Jede GPUwerk-Instanz ist eine ganze Maschine, diese Werte gehören also alle Ihnen. Jeder Wert, mit seiner Bedeutung für LLMs, steht auf der Seite Technische Daten der DGX Spark.

NVIDIA DGX Spark
SuperchipGB10 Grace Blackwell
KI-Leistung1 PFLOPS FP4 (sparse)
Speicher128 GB Unified LPDDR5x
Speicherbandbreite273 GB/s
CPU20-Kern-Arm (10× X925 + 10× A725)
Speicher1 TB NVMe auf GPUwerks eigenen Sparks, geteilt mit System und Modell-Cache; einige Partner-Sparks haben 2 oder 4 TB (NVIDIA verkauft 1 TB oder 4 TB)
NetzwerkConnectX-7 · 200 Gb/s
Strommax. 240 W
BetriebssystemDGX OS 7 · Ubuntu 24.04
CUDAKompletter Stack vorinstalliert

Quellen, gelesen am 24. Oktober 2026: die Produktseite der NVIDIA DGX Spark (CPU, Speicher, 273 GB/s, 1 PFLOP FP4 mit Sparsity, 240-W-Netzteil, bis zu 200B Parameter auf einer Maschine und 400B auf zwei) und die NVIDIA-Hardware-Dokumentation (1 TB oder 4 TB NVMe, 256-Bit-Speicher mit 4266 MHz). Marktstart und Preis: NVIDIA Newsroom, 13. Oktober 2025.

273 GB/s Speicherbandbreite ist die Grenze, die für die Single-Stream-Generierungsgeschwindigkeit von LLMs zählt. Die Stärke der Spark ist die Kapazität: Modelle, die auf Consumer-GPUs schlicht nicht passen, dazu FP4-Rechenleistung für Batch-Serving und Fine-Tuning, wo der Durchsatz weit besser skaliert, als die Single-Stream-Zahlen vermuten lassen.

Preis, Mieten und Kaufen

Eine mieten oder eine kaufen.

Minutengenaues Mieten zeigt Ihnen, ob Ihr Modell passt und schnell genug läuft, bevor Sie Tausende für die Hardware ausgeben. Eine gemietete Spark bietet ein Browser-Terminal oder Root-SSH in Ihren eigenen Container, das vorinstallierte CUDA-13.0-Toolkit (und auf einigen Maschinen Docker) und einen OpenAI-kompatiblen Endpoint aus einem Modell-Image: womit Sie arbeiten.

Gemessen in GPUwerks Flotte

Flotten-Benchmarks.

Die zwei Modelle, die auf jedem Node der Flotte bereitliegen, gemessen mit vllm bench serve auf einem von GPUwerks eigenen Nodes, ohne sonst etwas auf seiner GPU. Die Roh-Logs stehen unten, und weitere Modelle auf der Seite Benchmarks der DGX Spark. Werte Dritter für andere Modelle sind im Kaufratgeber gesammelt und diskutiert.

Flotten-Benchmark-Ergebnisse auf einer DGX Spark
ModellQuantisierungFrameworkPrefill tok/sGenerierung tok/sMax. Kontext
Qwen3-Coder 30B-A3BAWQvLLM 0.27.15.705 tok/s80,9 tok/s262.144
Llama 3.3 70BAWQvLLM 0.27.1391 tok/s6,0 tok/s131.072

So lesen Sie das.

Prefill ist die mittlere Time to First Token bei einem Prompt mit 8.192 Tokens. Generierung ist ein Stream, 128 rein und 512 raus, ohne andere parallele Anfragen. Max. Kontext ist ein Prompt dieser Länge, der tatsächlich bedient wurde, kein aus der KV-Cache-Größe abgeleiteter Wert. Prefill wird mit wachsendem Prompt langsamer, weil die Attention-Kosten quadratisch sind: Das 30B schafft 5.705 tok/s bei 8k und 586 tok/s beim Füllen seiner vollen 262.144.

Die Batch-Größe ändert die Antwort völlig.

Ein einzelner Stream ist auf dieser Hardware der ungünstigste Fall, und bei dieser Zahl hören die meisten Vergleiche auf. Mit parallelen Anfragen erreicht das 30B bei 256 gleichzeitigen 3.235 tok/s insgesamt, und das 70B erreicht 485 tok/s bei 128, fällt dann auf 300 bei 256, wobei die mittlere Time to First Token von 8 auf 40 Sekunden steigt. Das Mixture-of-Experts-Modell sättigt jenseits seines Knicks; das dichte bricht jenseits seines Knicks ein. Beide Kurven stehen in den Logs.

Gemessen auf einem ungenutzten Node.

Jeder Lauf erfolgte auf einem ansonsten ungenutzten Node, ohne ein anderes Modell auf der GPU. Jedes Log unten beginnt mit der Prozessliste der GPU und dem freien Speicher zum Startzeitpunkt des Laufs, sodass Sie das prüfen können, statt es zu glauben.

Roh-Logs, jeder Lauf, unverändert bis auf zusammengefasste Fortschrittsbalken: Qwen3-Coder 30B-A3B · Llama 3.3 70B. Für eigene Läufe: Laden Sie beim ersten Mal 20 $ auf und erhalten Sie 30 $ Guthaben, genug für einen Evaluierungstag auf einem dedizierten Node.

Workloads

Was sollte ich darauf ausführen?

Klare Empfehlungen aus dem Betrieb einer Flotte dieser Maschinen.

Coding-Assistent fürs Team

Qwen3-Coder 30B-A3B (AWQ, das Modell, das GPUwerk benchmarkt) lässt Platz für lange Kontexte und mehrere gleichzeitige Nutzer. Liefern Sie es mit vLLM hinter einem OpenAI-kompatiblen Endpoint aus und richten Sie Ihre Editoren darauf.

Privater Chat + RAG

Ein Instruct-Modell der 70B-Klasse mit Q4 passt auf einen Node, mit Reserven für ein Embedding-Modell und einen Vektorspeicher auf derselben Maschine – ein kompletter privater Assistent auf einer Maschine. Zum privaten ChatGPT-Setup →

Fine-Tuning

LoRA-Fine-Tunes von Modellen der 70B-Klasse passen in den Unified Memory, ohne Akrobatik mit Modellparallelität. Pro Schritt langsamer als eine Rechenzentrums-GPU, aber es läuft dort, wo Consumer-Karten einfach nicht können.

Mieten für einen Job

Wofür Menschen eine Spark mieten.

Drei Aufgaben, jeweils mit Befehlen, gemessenen Zahlen und Grenzen auf einer Seite.

Vergleiche

Im Vergleich.

Vergleiche mit dem Urteil vorweg, gegenüber den Maschinen, die Käufer tatsächlich parallel prüfen. Jeder sagt, wo der Konkurrent vorn liegt.

DGX Spark vs. Mac Studio

Unified Memory auf beiden Seiten, CUDA-Ökosystem gegen rohe Bandbreite. Aktualisiert für Apples Mac Studio mit M5 Ultra: Der Mac gewinnt beim Decode, die Spark beim Prefill und bei der CUDA-Portabilität.

9 Min. Lesezeit

DGX Spark vs. RTX 5090

32 GB schneller VRAM gegen 128 GB Kapazität. Beim Tempo kein knappes Rennen: Die ganze Frage ist, ob Ihr Modell passt.

6 Min. Lesezeit

DGX Spark vs. Strix Halo

Nahezu identische Token-Generierung, ein 2- bis 3-facher Abstand beim Prefill und etwa 4.000 $ weniger in der Anschaffung. Was der Praxistest von The Register ergab.

5 Min. Lesezeit

Cloud-Anbieter für die DGX Spark im Vergleich

Jede stundenweise Spark-Miete mit öffentlichem Angebot, mit Preis, Standort, Abrechnungstakt und was beim Stoppen mit Ihren Daten passiert. Zitiert von der jeweiligen Anbieterseite, GPUwerk eingeschlossen.

7 Min. Lesezeit

DGX Spark vs. H100 für LLM-Inference

Wann 128 GB und minutengenaue Abrechnung eine Rechenzentrumskarte schlagen und wann Speicherbandbreite und Batch-Durchsatz bedeuten, dass Sie stattdessen die H100 brauchen.

8 Min. Lesezeit

DGX Spark vs. H200 für LLM-Inference

Der größte Bandbreitenunterschied auf dieser Website, 273 GB/s gegenüber rund 4,8 TB/s. Wo das zählt und wo nicht.

7 Min. Lesezeit

DGX Spark vs. Jetson AGX Thor: zwei verschiedene Aufgaben

Warum diese nicht wirklich um denselben Käufer konkurrieren, mit Zielmarkt, Bauform und Software-Stack im Vergleich.

7 Min. Lesezeit

DGX Spark vs. RTX PRO 6000 Blackwell

128 GB Unified Memory mit 273 GB/s gegenüber 96 GB GDDR7 mit etwa 1,8 TB/s: welche Modelle jeweils passen und welche Decode-Geschwindigkeit die Bandbreite erlaubt.

Vergleich

ASUS Ascent GX10 vs. DGX Spark

Derselbe GB10-Chip und 128 GB. Was sich unterscheidet, sind Speicherplatz, Preis, Größe und Firmware, jeweils mit Quelle.

Vergleich

Alle GB10-Maschinen im Vergleich

DGX Spark, ASUS, Dell, HP, Lenovo, MSI, Gigabyte und Acer nebeneinander: ein Chip und die Unterschiede, die bleiben.

Vergleich

Alle acht im direkten Vergleich, mit Speicher, Bandbreite und wo jeder Konkurrent vorn liegt: Alternativen zur DGX Spark im Vergleich.

Guides

Guides & Analysen.

Für alle, die eine DGX Spark evaluieren, kaufen oder einrichten, geschrieben aus dem Serverraum, nicht aus einer Pressemappe.

DGX Spark einrichten: vom Auspacken zum ersten Token

Erster Start von DGX OS, SSH, Treiber und Ihr erstes Modell: der Guide, den ich mir gewünscht hätte, als ich mein erstes Gerät ins Rack gebaut habe.

Setup · 4 Min. Lesezeit

Was Sie vor dem Kauf einer DGX Spark wissen sollten

Strom, Lautstärke, Vernetzung zweier Geräte, wofür sie wirklich gut ist, und die Gesamtbetriebskosten im Vergleich zu einem 5090-Rig oder der Cloud.

Kaufanalyse · 11 Min. Lesezeit

DGX Spark mieten oder kaufen

Stunden pro Woche, Kaufpreis und die Break-even-Rechnung, mit einem Rechner für Ihre eigenen Zahlen.

Kaufanalyse · 8 Min. Lesezeit

Qwen3 mit vLLM auf einer Spark ausliefern

Zum Kopieren und Einfügen: der Weg zu einem OpenAI-kompatiblen Endpoint auf Ihrer eigenen Hardware, inklusive Open-WebUI-Frontend und systemd.

Setup · 6 Min. Lesezeit

Die besten Modelle, an die Sie Ihre Daten nicht schicken dürfen

Welche großen offenen Modelle in 128 GB / 256 GB passen und wie weit sie wirklich hinter der Spitze liegen.

Private KI · 7 Min. Lesezeit

Ein Modell auf den Daten Ihres Unternehmens feintunen

LoRA auf Modellen der 70B-Klasse passt in 128 GB Unified Memory, und der Trainingsdatensatz bleibt auf der lokalen NVMe des Nodes.

Fine-Tuning · 11 Min. Lesezeit

Ein KI-Mitarbeiter braucht ein Büro. Geben Sie ihm eines, das Ihnen gehört.

OpenClaw, Hermes und warum ein Agent, der Ihren Posteingang liest, auf Hardware gehört, die Sie kontrollieren.

KI-Agenten · 9 Min. Lesezeit

Automatisieren Sie die langweiligen 80 %

Batch-Dokumentenverarbeitung auf einer Maschine zum Festpreis: Der zusätzliche Token kostet nichts, also lassen Sie das Modell über alles laufen.

Automatisierung · 7 Min. Lesezeit

Cluster aus zwei DGX Sparks: Setup und was er Ihnen wirklich bringt

Zwei Sparks über ConnectX-7 200 GbE verbinden, was NVIDIAs eigene Dokumentation sagt, und eine ehrliche Einschätzung, was die Kopplung bringt und was nicht.

Setup · 9 Min. Lesezeit

So verdienen Sie Geld mit Ihrer DGX Spark

Vermieten Sie eine eigene Spark über die GPUwerk Platform: der 70-%-Anteil, was nichts bringt, ein Beispiel mit genannten Stunden und Ihre Kosten.

Eigentümer · 7 Min. Lesezeit

Stromverbrauch und Betriebskosten der DGX Spark

Die veröffentlichten Leistungswerte, was sie an der Steckdose bedeuten und wie Sie Ihre eigenen Stromkosten pro Stunde berechnen.

Kaufanalyse · 6 Min. Lesezeit

ComfyUI und Stable Diffusion auf einer DGX Spark

NVIDIAs ComfyUI-Playbook auf ARM64, berichtete Bildzeiten pro Modell und Unified Memory gemeinsam mit einem LLM nutzen.

Modelle

So führen Sie ein neu veröffentlichtes Modell auf einer DGX Spark aus

Speicherbedarf, arm64-Images, NVFP4 oder GGUF, welche Engine, und wann ein Modell aus der Release-Woche zwei Sparks braucht.

Modelle

Die besten Open-Weight-Modelle für die DGX Spark

Welches Modell zu Chat, Coding, Batch- und Agentenarbeit passt, und ein Realitätscheck für dichte Modelle, nur mit gemessenen tok/s-Werten.

Modelle · 8 Min. Lesezeit

Gesamtbetriebskosten: GPU-Miete vs. Cloud-KI-API

Eine Cloud-API mit Abrechnung pro Token, eine gemietete dedizierte GPU und der Kauf eigener Hardware im direkten Vergleich, mit Zahlen, die bereits auf dieser Website veröffentlicht sind.

Kaufanalyse · 9 Min. Lesezeit

Wie GPUwerk die DGX Spark benchmarkt

Was gemessen wird, Single-Stream gegenüber Parallelität, welche Engines und Einstellungen, und warum die Roh-Logs veröffentlicht werden und nicht nur die Übersichtstabelle.

Benchmarks · 4 Min. Lesezeit

Lautstärke und Kühlung der DGX Spark: was Sie erwarten können

Was über Lüftergeräusch und Kühlung für Schreibtisch oder Homeoffice dokumentiert ist, was nicht unabhängig gemessen wurde und wo Sie vor dem Kauf nachsehen sollten.

Kaufanalyse · 4 Min. Lesezeit

Vision- und multimodale Modelle auf einer DGX Spark ausführen

Was mit 128 GB Unified Memory für Vision-Language-Modelle und Bildverständnis plausibel ist und warum noch keine eigenen VLM-Benchmarks veröffentlicht wurden.

Modelle · 3 Min. Lesezeit

Treiber- und Firmware-Updates der DGX Spark: was GPUwerk verwaltet

Was auf Host- und Node-Ebene einer gemieteten Spark aktuell gehalten wird und was in Ihrem eigenen Root-Container liegt und ganz in Ihrer Verantwortung bleibt.

Setup · 4 Min. Lesezeit

Speicherplatz der DGX Spark: was persistent ist und was Sie sichern sollten

Die 1-TB-NVMe einer gemieteten Spark, genau was ein Stoppen gegenüber einem Beenden übersteht und warum Sie ein eigenes Backup brauchen: GPUwerk hält keine Kopie Ihres Workspace.

Setup · 4 Min. Lesezeit

Monitoring und Observability für ein selbst gehostetes LLM

Was Sie auf einer Spark mit Produktiv-Traffic überwachen sollten, vom GPU-Speicher bis zur Latenz pro Anfrage.

Betrieb · 6 Min. Lesezeit

Backup und Disaster Recovery für Ihren Workload auf der DGX Spark

Was auf einer gemieteten Spark wirklich ein Backup braucht und wie Sie es nach einem Ausfall wiederherstellen.

Betrieb · 6 Min. Lesezeit

Zugang für Teams und mehrere Nutzer auf einer gemeinsamen DGX Spark

Einem Team gemeinsamen Zugang zu einer Spark geben, ohne dass sich alle einen API-Schlüssel teilen.

Betrieb · 5 Min. Lesezeit

Rate Limiting und Kontingente für ein internes LLM-Deployment

Verhindern, dass ein Team oder ein Skript auf einem gemeinsamen Endpoint die Anfragen aller anderen aushungert.

Betrieb · 5 Min. Lesezeit

Modelle ohne Ausfallzeit aktualisieren oder austauschen

Ein neues Modell oder eine neue Modellversion auf einer Spark ohne Ausfallfenster in Produktion bringen.

Betrieb · 6 Min. Lesezeit

Von einer DGX Spark zur Flotte skalieren

Wann mehr einzelne Sparks einen Cluster aus zwei Nodes schlagen, wie Sie die Last auf unabhängige Nodes verteilen und was der Betrieb einer kleinen Flotte mit sich bringt.

Betrieb · 7 Min. Lesezeit

Quantisierte Modelle vs. Modelle in voller Präzision im Produktivbetrieb

Quantisiertes Modell oder volle Präzision im Produktivbetrieb: Speicherbedarf, Qualitätsrisiko je Aufgabe und wann Sie beide testen sollten.

Betrieb · 6 Min. Lesezeit

Kostenprognose und Budgetierung für KI-Infrastruktur

Wie Sie die monatlichen Kosten für KI-Infrastruktur beim Selbsthosten gegenüber einer nutzungsbasierten API schätzen, mit GPUwerks Satz von 0,79 $/Stunde als Rechenbeispiel und einer Budget-Checkliste.

Kaufanalyse · 7 Min. Lesezeit

Sicherheitshärtung einer gemieteten GPU-Instanz

Praktische Härtung innerhalb der Instanz für eine gemietete GPU: Verwaltung von SSH-Schlüsseln, Netzwerkfreigaben, Dienste ohne root betreiben, Secrets sowie flüchtiger vs. persistenter Zustand.

Betrieb · 6 Min. Lesezeit

Ein bestehendes selbst gehostetes KI-Deployment auf eine DGX Spark migrieren

Ein praktischer Migrationsweg von einer Workstation oder einer anderen Cloud-GPU zu einer gemieteten DGX Spark: neu quantisieren für Unified Memory, Daten umziehen und ein Plan für die Umstellung.

Setup · 7 Min. Lesezeit

GPU-Speicherverwaltung für mehrere Modelle auf einer Spark

128 GB Unified Memory auf mehrere Modelle oder Container auf einer einzelnen DGX Spark aufteilen, und wann die Rechnung für einen Cluster aus zwei Nodes spricht.

Betrieb · 6 Min. Lesezeit

llama.cpp vs. vLLM vs. SGLang auf einer DGX Spark: Flags und Start

Ein praktischer Begleiter zur Wahl einer Inference-Engine: exakte Flags, Startbefehle und wo sich llama.cpp, vLLM und SGLang auf dem Unified Memory des GB10 tatsächlich unterscheiden.

Setup · 6 Min. Lesezeit

Ihren Disaster-Recovery-Plan für ein selbst gehostetes LLM testen

Ein Backup-Plan, aus dem Sie nie wiederhergestellt haben, ist eine Hypothese. Restore-Übungen, Game Days und RTO/RPO-Messung für ein selbst gehostetes LLM-Deployment.

Betrieb · 6 Min. Lesezeit

Best Practices zur API-Schlüsselrotation für ein privates LLM-Deployment

API-Schlüssel und Zugangsdaten für einen selbst gehosteten Inference-Endpoint rotieren: Scopes, Rotationspläne, Widerruf und was Sie automatisieren statt von Hand erledigen sollten.

Betrieb · 6 Min. Lesezeit

Modellqualität vor dem Modellwechsel bewerten

Holdout-Testsets, A/B-Ansätze und Regressionsprüfungen, um ein Kandidatenmodell vor dem Wechsel in der Produktion mit Ihrem aktuellen zu vergleichen.

Betrieb · 6 Min. Lesezeit

Prompt-Caching, um Inference-Kosten zu senken

Wie Präfix- und KV-Cache wiederholte Berechnungen sparen: was als Cache-Treffer zählt, wie Sie Prompts dafür bauen und wo sich das auf einer stundenweise gemieteten Spark zeigt.

Betrieb · 6 Min. Lesezeit

Strukturierte Ausgabe und Function Calling bei einem selbst gehosteten LLM

JSON-Modus und Tool-/Function-Calling bei selbst gehosteten Modellen mit vLLM und llama.cpp einrichten: welche Modelle das können und wie Sie fehlerhafte Aufrufe debuggen.

Setup · 5 Min. Lesezeit

Embeddings und Vektorsuche auf einer DGX Spark

Ein Embedding-Modell neben einer Vektordatenbank für eine RAG-Pipeline auf einer einzelnen Spark selbst hosten: Speicherbudget, Embedding-Modell ausliefern und einen Vektorspeicher wählen.

Modelle · 5 Min. Lesezeit

Große Inference-Jobs im Batch auf einer gemieteten Spark verarbeiten

Massenverarbeitung von Dokumenten und Labeling großer Datensätze auf einer stundenweise gemieteten DGX Spark: Durchsatzeinstellungen, Dimensionierung der Jobs und wie sich die Kosten von Batch-Inference mit interaktivem Serving vergleichen.

Betrieb · 5 Min. Lesezeit

GPU-Auslastung überwachen und Ihr Deployment richtig dimensionieren

Wie Sie die tatsächliche GPU- und Speicherauslastung auf einer gemieteten DGX Spark ablesen und damit entscheiden, ob Sie bleiben, auf einen Cluster aus zwei Nodes hochskalieren oder auf eine Flotte ausweiten.

Betrieb · 5 Min. Lesezeit

Audit-Logging für ein compliance-sensibles, selbst gehostetes LLM-Deployment

Audit-Logs für Anfragen und Antworten in Ihrem eigenen Container auf einer gemieteten DGX Spark einrichten: was Sie erfassen, wo Sie es speichern und wo GPUwerks Verantwortung endet.

Betrieb · 6 Min. Lesezeit

Strategie für Modellversionierung und Rollback in einem selbst gehosteten Deployment

Nachverfolgen, welche Modellgewichte und Konfigurationen tatsächlich laufen, und sauber zurückrollen, wenn eine neue Version schwächer ist.

Betrieb · 6 Min. Lesezeit

Kaltstart vs. Dauerbetrieb: das passende Laufzeitmuster für Ihre Instanz

Eine DGX Spark zwischen Nutzungen stoppen oder rund um die Uhr laufen lassen: Abwägung von Kosten, Latenz und Daten.

Kaufanalyse · 5 Min. Lesezeit

SSO und Zugriffskontrolle für ein Team-LLM-Deployment einrichten

Eine Authentifizierungsschicht vor einen selbst gehosteten Inference-Endpoint setzen, damit sich ein Team mit vorhandenen Identitäten anmeldet, statt SSH-Schlüssel oder API-Tokens zu teilen.

Setup · 5 Min. Lesezeit

Mehrere Container und Dienste auf einer DGX Spark betreiben

Docker-Container-Muster für eine einzelne DGX Spark: wann eine einfache docker-compose-Datei genügt und wann der Workload ihr entwachsen ist.

Setup · 5 Min. Lesezeit

Alle Guides, gruppiert nach Kauf, Modellen und Engines, Clustern und Betrieb: alle Guides zur DGX Spark.

Fragen.

Was ist die NVIDIA DGX Spark?

Die NVIDIA DGX Spark ist ein Desktop-KI-Computer auf Basis des NVIDIA GB10 Grace Blackwell Superchip: eine Blackwell-GPU und eine 20-Kern-Arm-CPU, die sich 128 GB Unified Memory mit 273 GB/s teilen, mit bis zu 1 PFLOP Sparse-FP4-Rechenleistung. Sie läuft mit NVIDIAs DGX OS, einem Ubuntu-basierten System mit vorinstalliertem CUDA-Stack, und nimmt höchstens 240 W auf. Bestellungen begannen am 15. Oktober 2025 zu 3.999 $; NVIDIAs US-Listenpreis lag bei der Prüfung am 11. Oktober 2026 bei 6.950 $ (Preisentwicklung). ASUS, Dell, HP, Lenovo, MSI, Gigabyte und Acer verkaufen Maschinen mit demselben GB10-Chip unter eigenem Namen: alle GB10-Maschinen im Vergleich.

Bekomme ich eine ganze DGX Spark für mich allein?

Ja. Jede GPUwerk-Instanz ist ein dedizierter Node, kein Teil einer geteilten GPU. Die 128 GB Unified Memory, die vollen 273 GB/s Bandbreite und die 1 PFLOPS Sparse-FP4-Rechenleistung gehören für die Dauer der Miete Ihnen, ohne dass sonst etwas auf der Maschine läuft.

Worin unterscheidet sich eine DGX Spark von einer gemieteten Cloud-GPU-Instanz?

Eine typische Cloud-GPU-Instanz bietet 24 bis 80 GB VRAM auf einer Rechenzentrumskarte. Eine DGX Spark bietet 128 GB Unified Memory auf einer Maschine, genug für Modelle der 70B-Klasse, ohne sie auf mehrere GPUs aufzuteilen, und GPUwerk vermietet sie minutengenau abgerechnet – von eigenen Sparks in Tschechien und Partner-Sparks in Europa, Nordamerika und Ostasien.

Wo ist der Haken bei 273 GB/s Speicherbandbreite?

Sie ist die Obergrenze der Single-Stream-Generierungsgeschwindigkeit: weniger Tokens pro Sekunde als bei einer dedizierten GPU mit schnellerem VRAM, weshalb der Kaufratgeber und der Vergleich mit der RTX 5090 beide damit beginnen. Der Vorteil der Spark ist Kapazität und Batch-Durchsatz, nicht rohe Geschwindigkeit für einen einzelnen Nutzer.

Kann ich eine DGX Spark kaufen, statt sie zu mieten?

Ja. GPUwerks Store listet die NVIDIA DGX Spark selbst, bepreist aus dem Bestand tschechischer Lieferanten, wenn einer sie liefern kann, und dieselbe GB10-Maschine von sieben anderen Herstellern, darunter die Lenovo ThinkStation PGX ab 5.330 € zzgl. MwSt. GPUwerk versendet sie an Sie oder bringt sie, wenn Sie möchten, in seinem Rechenzentrum unter und vermietet sie für Sie. Sie können auch bei NVIDIA oder seinen Partnern kaufen oder GPUwerk nach einer Maschine für Ihren eigenen Standort fragen. Wenn Sie zuerst minutengenau mieten, wissen Sie vor einem Kauf ab etwa 4.000 €, ob die Hardware zu Ihrem Workload passt, und jede GPUwerk-Cloud-Instanz läuft auf identischer GB10-Hardware.

Alles zur DGX Spark auf dieser Website.

Jede Seite auf GPUwerk zur DGX Spark, gruppiert nach dem, was Sie vorhaben.

Hören Sie auf, Benchmarks zu lesen.
Führen Sie Ihre eigenen aus.

Mieten Sie eine dedizierte Spark für 0,79 $/h, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben, etwa 37 Stunden Rechenzeit.

Konto erstellen