Self-Hosted LLMs — kaufen oder mieten?
Was kostet der Betrieb eigener LLM-Infrastruktur wirklich — als Kauf (DGX Spark, DGX Station GB300, GB300 NVL72) oder als Bare-Metal-Miete mit voller Kontrolle über den Mietzeitraum?
Die Kernzahlen
Alle Werte EUR netto (ohne USt.), Rechenbasis November 2026. Jede Zahl stammt aus der generierten Rechnung (calc/tco.md), jede Leistungszahl aus öffentlichen Receipts (vLLM, SGLang, TensorFold) — nichts ist geschätzt, wo ein Receipt existiert.
Methodik: Receipts first
Drei Use-Case-Profile mit gemeinsamen Anforderungen — die Szenarien unterscheiden sich nur in Peak-Faktor und Modellklasse.
A1 — Dokumentenrecherche / RAG (NDA)
Peak-Faktor 50 %. 50 % der Nutzer führen zur Spitze eine gleichzeitige Recherche-Session. Flash-Klasse (GLM-5.3-Flash, DeepSeek-V4.1-Flash).
A2 — Software- & Firmware-Entwicklung
Peak-Faktor 80 %. Agentic, lange Generierungen, große Kontexte — der Kosten-Treiber. Frontier-Modelle (Kimi K3) nur auf GB300/NVL72-Klassen.
A3 — Interne IT-Automatisierung
Peak-Faktor 90 %. Agenten und Workflows laufen durchgehend mit hoher Konkurrenz — Flash-Klasse.
Mischlast-Strommodell: Weff = Idle + (Last − Idle) × Duty-Cycle. Kühlung +15 %. Strom ist bei allen Miete-Optionen in der Miete enthalten — dort gibt es keine separate Stromzeile.
Kaufen: die vier Kandidaten
Preise November 2026 (re-verifiziert am 2026-11-22; DGX Spark +9,6 % seit Oktober, RTX 6000 −1,7 %). Geräteklassen kommen als Paare (N+1 inhärent).
| Konfiguration | CAPEX netto | Monat idle | Monat Vollast |
|---|---|---|---|
| DGX Spark GB10 2×-Cluster (256 GB) | 9.575 € | 301–316 € | 332–373 € |
| DGX Spark GB10 4×-Cluster (512 GB) | 19.150 € | 602–632 € | 665–745 € |
| 2× DGX Station GB300 + 2× RTX 6000 (Paar) | 210.418 € | 6.835–6.926 € | 7.393–7.931 € |
| 2× GB300 NVL72 (Kauf, redundant) | ~8,6 Mio. € | ~330.129–374.455 € | |
Welches Modell läuft worauf?
| Klasse | Maximale Modelle | Läuft nicht |
|---|---|---|
| Spark 2× (256 GB) | GLM-5.3-Flash, Qwen3.8-Flash-Next, DS-V4.1-Flash nur in Low-Quants (weniger Nutzer) | DS-V4.1-Flash Q3_K_M (347 GB) und alles darüber |
| Spark 4× (512 GB) | + DS-V4.1-Flash Q3_K_M/Q4_K_M, GLM-5.3 Int4-Int8Mix | DS-V4.1-Flash FP8 (510 GB), GLM-5.3 FP8 (756 GB), Kimi K3 |
| GB300-Paar (1.496 GB) | Alle Flash-Quants (FP8/NVFP4), GLM-5.3, DS-V4-Pro, Kimi K3 int3/1-bit | GLM-5.3 BF16 (1.507 GB), Kimi K3 MXFP4 (1.561 GB) |
| 2× NVL72 (~20 TB) | Alles, inkl. Kimi K3 MXFP4 und GLM-5.3 BF16 | — |
Einordnung: DGX Spark ist die Einstiegstufe (Pilot, 16–64 Nutzer, Flash-Workloads) mit geplantem Exit bei ~128 Nutzern. Die Team-Plattform ist das GB300-Paar. Frontier-A2 skaliert ab ~90 Nutzern nur auf 2× NVL72.
Mieten: Bare-Metal mit voller Kontrolle
Nur dedizierte Bare-Metal-Server mit vollem Root-Zugriff zählen — keine Hypervisoren, keine geteilten GPUs. 19 qualifizierende Anbieter geprüft (vollständige Recherche).
| Miet-Node | VRAM | Monat netto | Setup einmalig | Standort / Anbieter |
|---|---|---|---|---|
| Hetzner GEX430 (4× RTX PRO 6000 Max-Q) | 384 GB | 3.599 € | 3.599 € | Helsinki, Hetzner |
| 8× RTX PRO 6000 Blackwell | 768 GB | ~9.629 € | n.v. | Amsterdam, DataPacket |
| 8× HGX B300 (Blackwell Ultra) | 2.304 GB | ~35.040 € | n.v. | Gcore (keine Receipts — Preisreferenz) |
Abrechnungsrealität: Hetzner berechnet die einmalige Setup-Gebühr immer — auch bei Stundenabrechnung. Kündigung ist zum Monatsende: Ein Mietzeitraum läuft damit effektiv 1–2 Monate minimum (Setup + ~2 Monate ≈ 10.797 € für den GEX430). Die Stundensätze (5,77 €/h) sind für Kurzprojekte fast nur theoretisch relevant.
NDA/IP-Daten verlassen das Haus: Miete läuft im Rechenzentrum des Anbieters (z. B. Helsinki). Dieselbe Erwägung, die Colocation ausgeschlossen hat, gilt hier — Miete ist als paralleles Szenario dokumentiert, nicht als Ersatz für die On-Prem-Entscheidung.
N+1 gilt auch bei Miete: Jeder zusätzliche Node ist ein zusätzlicher Mietvertrag (mit eigener Setup-Gebühr). In kleinen Stufen verdoppelt die Redundanz die Kosten pro Nutzer.
Kauf gegen Miete: der Break-even
Kosten pro Nutzer/Monat (Mischlast, 36-Monats-Basis), A1-Dokumentenrecherche. Das GB300-Paar wird mit Auslastung günstiger; die Miete skaliert linear.
| A1-Nutzer | GB300-Paar (Kauf) | Hetzner GEX430 (Miete) | Spark 2× (Kauf) | 8× RTX PRO 6000 (Miete) |
|---|---|---|---|---|
| 16 | 454 € | 462 € | 41 € | 1.204 € |
| 64 | 114 € | 116 € | 41 € | 301 € |
| 128 | 57 € | 116 € | 41 € | 150 € |
| 256 | 28 € | 116 € | 41 € | 150 € |
Bei 64 A1-Nutzern liegen Kauf-Paar (113,61 €) und GEX430-Miete (115,59 €) praktisch gleichauf — der Break-even. Bei 128 Nutzern kostet die Miete doppelt, bei 256 das Vierfache pro Nutzer. Achtung: Der Spark-Cluster gewinnt die Pro-Nutzer-Rechnung in kleinen Stufen, trägt aber nur Flash-Klassen und skaliert Geräte-zäh — 128 A1-Nutzer brauchen 32 GB10-Geräte.
Quellen
- Rechenmodell: selfhosted-lm-tco —
calc/parameter.json(Quelle der Wahrheit) →calc/tco.md/tco.csv(generiert, Stand 2026-11-22). - Preis-Re-Verifikation November 2026: research/preis-update-2026-11-22.md (Geizhals, buyzero/pi3g, Apple Store DE, Iodis).
- Miete-Recherche (19 Anbieter): research/miete-anbieter.md — Hetzner GEX430-Produktseite, DataPacket, Gcore, OVHcloud u. a.
- Performance-Receipts: research/hardware/rtx-pro-6000.md — vLLM/SGLang/TensorFold-Messungen auf 4×/8× RTX PRO 6000 (GLM-5.3-Flash, DeepSeek-V4.1-Flash), localmaxxing-Matrizen, SGLang-4×-Build mit Engram auf NVMe.
- GB300-Receipts: RonanLabsAI/dgx-station-frontier (2026-10-10) — in
research/hardware/dgx-station.md.
Alle monetären Werte EUR netto (ohne USt.). Mietpreise netto wie von den Anbietern veröffentlicht; USD-Zitate zu ECB-Referenzkurs 0,90992 (2026-11-20) umgerechnet. Diese Seite ist eine private, nicht-kommerzielle Aufbereitung; für Vollständigkeit und Aktualität wird keine Gewähr übernommen.