GPU-Server mieten oder kaufen? Die Rechnung mit echten Preisen

Jedes Team, das Modelle trainiert oder betreibt, steht vor derselben Wahl: GPU-Zeit stundenweise mieten oder die Hardware kaufen. Die ehrliche Antwort ist keine Vorliebe, sondern eine einzige Zahl — wie viele Stunden im Monat die GPUs tatsächlich ausgelastet sind — und die folgende Rechnung sagt Ihnen, auf welcher Seite Sie stehen.

Dieser Artikel arbeitet mit echten Marktdaten statt mit Beispielzahlen. Die Mietpreise stammen aus 1.396 Angeboten, erhoben am 3. August 2026, und werden wöchentlich aktualisiert; die Stromkosten sind bis zur Kilowattstunde ausgerechnet, damit Sie Ihren eigenen Tarif einsetzen können.

Kurz gefasst

Mieten gewinnt bei unregelmäßiger, explorativer Nutzung oder unterhalb von etwa einem Drittel des Monats. Kaufen gewinnt, wenn eine Maschine die meiste Zeit liefe — und der Abstand wächst danach schnell.

Es gibt aber einen zweiten Befund, der uns bei der Markterhebung überrascht hat und der ändert, wie Sie gemietete Kapazität einkaufen sollten.

Was Mieten heute wirklich kostet

Median-Stundensätze, dazu das günstigste und das teuerste Angebot für dieselbe Karte:

Quelle: 1.283 Angebote auf Vast.ai, erhoben am 7. September 2026. USD je GPU-Stunde.

Was diese Sätze sind — und was nicht

Ein Vorbehalt, bevor Sie mit den Zahlen arbeiten, denn er verschiebt die Schlussfolgerung für manche Leser.

Es handelt sich um Marktplatz-Preise: Kapazität, die unabhängige Betreiber und kleine Rechenzentren vermieten. Das ist nicht, was ein Hyperscaler verlangt. Zum Vergleich:

AWS-Listenpreise, us-east-1, geteilt durch die GPU-Zahl: p6-b200.48xlarge 113,93 $/h, p5.48xlarge 55,04 $/h, p4d.24xlarge 32,77 $/h. Geprüft August 2026 — AWS hat die GPU-Preise im Juli angehoben, die Zahlen sind also in Bewegung.

Ein Hyperscaler kostet also das Drei- bis Vierfache des Marktplatzpreises für dasselbe Silizium. Das zahlen Sie nicht für die GPU, sondern für SLA, Enterprise-Support, Compliance-Unterlagen, Redundanz und einen Vertragspartner, den man belangen kann. Bei regulierten Lasten ist dieser Aufschlag nicht optional — für eine Bank oder ein Krankenhaus kommt der Marktplatz gar nicht infrage.

In welche Richtung wirkt das? Zugunsten des Kaufens. Alle Vergleiche in diesem Artikel rechnen mit dem günstigeren Marktplatzpreis. Wenn Ihre realistische Alternative AWS heißt, ist der Fall für eigene Hardware drei- bis viermal stärker als die folgende Rechnung nahelegt.

Für H200 und L40S veröffentlicht AWS keinen Preis je GPU, deshalb fehlen sie oben. Wichtiger ist aber, was nicht in eine Tabelle passt: für die Hälfte der Karten in diesem Artikel gibt es beim Hyperscaler überhaupt keine Entsprechung — RTX PRO 6000, 4090, 5090 und 3090 vermieten weder AWS noch Azure. Workstation- und Consumer-Silizium vermieten AWS oder Azure zu keinem Preis. Wenn Ihre Last auf eine 4090 oder eine RTX PRO 6000 passt, existiert der Hyperscaler-Vergleich schlicht nicht — die Wahl steht zwischen Marktplatz und Eigentum, und genau davon leben diese Marktplätze.

Der Befund: das Angebot schlägt die GPU

Sehen Sie auf die Spalte „Spanne“, nicht auf den Preis.

Eine RTX 4090 kostet je nach Anbieter zwischen 0,05 und 0,71 Dollar pro Stunde — eine Spanne von 13,7× für identisches Silizium. Bei der RTX 5070 sind es 18×. Gleichzeitig liegen die Mediane von 4090 und 5090 zwei Cent auseinander.

Anders gesagt: welches Angebot Sie wählen, zählt mehr als welche GPU Sie wählen. Wer unachtsam einkauft, zahlt für eine 4090 mehr als ein sorgfältiges Team für eine 5090.

Die Spanne ist zugleich ein Zuverlässigkeitssignal. Das untere Ende einer 14er-Spanne ist kein Schnäppchen, sondern meist ein überbuchter Host, eine Maschine an einem Privatanschluss oder Hardware, die mitten im Job zurückgeholt wird. Karten mit enger Spanne (RTX PRO 6000 WS mit 1,8×, L40 mit 1,3×) sind die, bei denen der Markt sich über den Wert einig ist.

Wenn Sie mieten, kalkulieren Sie Zeit für die Prüfung der Anbieter ein, nicht nur für die Stunden. Was vor dem Vertrauen in eine gemietete Maschine zu prüfen ist, haben wir gesondert aufgeschrieben.

Der Posten, den alle vergessen: Strom

Die Kaufseite besteht nie nur aus Hardware. Hier die Rechnung, bei 0,18 €/kWh — ein Gewerbetarif, den Sie durch Ihren eigenen ersetzen sollten — für eine Karte im Dauerbetrieb:

Multiplizieren Sie das mit etwa 1,5 für Netzteilverluste, Kühlung sowie CPUs, RAM und Laufwerke um die Karten herum. Ein Acht-GPU-Server kostet damit rund 900–1.100 € im Monat im Betrieb, bevor jemand die Anschaffung anfasst.

Das klingt nach viel, bis man die Mietspalte danebenstellt:

Die Feinheit in dieser Tabelle

Die drei Zeilen verhalten sich völlig unterschiedlich, und genau das übersehen die meisten Vergleiche.

Bei Rechenzentrumskarten ist der Eigenbetrieb nicht einmal in der Nähe. Acht H100 rund um die Uhr zu mieten kostet das Elffache des Stroms. Jeder Monat echter Dauerlast tilgt einen erheblichen Teil der Anschaffung.

Bei Consumer-Karten schrumpft der Abstand deutlich. Acht gemietete 5090 kosten etwa das Doppelte ihres eigenen Stroms — die Amortisation zieht sich, und Mieten bleibt viel länger vertretbar.

Der Grund ist einfach: Bei Consumer-Karten ist die Mietpreisbildung wegen des riesigen Angebots hart umkämpft. Rechenzentrumskapazität ist knapper und entsprechend bepreist. Wenn Ihre Last in Consumer-VRAM passt, ist Mieten eine stärkere Option, als die übliche Empfehlung nahelegt.

Die Break-even-Formel

Vergleichen Sie Gleiches mit Gleichem — Kosten je produktiver GPU-Stunde:

gemietet   = Satz/Stunde × genutzte Stunden
im Besitz  = (Hardware ÷ Nutzungsmonate) + Strom + Hosting + Wartung
Break-even = Hardwarekosten ÷ (Monatsmiete − Monatsbetriebskosten)

Am Beispiel der RTX PRO 6000: Jeder Monat Dauerbetrieb spart gegenüber Miete rund 5.000 $. Teilen Sie Ihre Hardwarekosten durch diese Zahl und Sie haben die Amortisation in Monaten.

Wir veröffentlichen keine Serverpreise, weil die Zahl ohne Konfiguration nichts aussagt — VRAM, Interconnect, Speicher und Leistungsreserve bewegen sie um den Faktor drei. Der Konfigurator liefert binnen 3 Werktagen ein echtes Angebot, und der ROI-Rechner rechnet gegen dieselben Live-Sätze wie oben.

Die vier Fragen, die es wirklich entscheiden

Kosten sind eine Achse. Dies sind die anderen, und jede einzelne kann die Rechnung aushebeln:

Wie sensibel sind die Daten? Wer personenbezogene, medizinische oder Finanzdaten verarbeitet, kann oft schlicht nicht bei einem anonymen Host mieten, unabhängig vom Preis. Eigene Hardware in einem bekannten Rack oder ein Anbieter mit Auftragsverarbeitungsvertrag ist dann der einzige rechtmäßige Weg.

Wie gleichmäßig ist die Last? Dauerhafte Inferenz spricht am stärksten für Eigenbetrieb. Gelegentliche Experimente und einmalige Trainingsläufe sprechen am stärksten fürs Mieten. Seien Sie ehrlich — die meisten Teams überschätzen, wie ausgelastet eine Maschine sein wird.

Wie sieht das Budget aus? Mieten ist laufender Aufwand ohne Bindung. Kaufen ist Investition mit Amortisationszeit. Ein Unternehmen, das dieses Jahr kein Kapital binden kann, sollte mieten, auch wenn die Rechnung fürs Kaufen spricht.

Was passiert, wenn Sie verdoppeln müssen? Gemietete Kapazität skaliert in Minuten, eigene in Wochen — Beschaffung, Aufbau, Burn-in, Inbetriebnahme. Bei unvorhersehbar steigendem Bedarf hat diese Vorlaufzeit echte Kosten.

Wann Mieten eindeutig richtig ist

• Sie prüfen noch, ob das Modell überhaupt trägt
• Die Auslastung liegt unter etwa einem Drittel des Monats
• Sie brauchen eine Kartenklasse für zwei Wochen und nie wieder
• Sie können kein Kapital binden, oder das Projekt ist nur bis zum Pilot finanziert

Wenn Sie dort landen, muss die Maschine trotzdem irgendwo stehen und betreut werden. GPU-Hosting und Colocation deckt die Hälfte ab, die nach der Entscheidung beginnt: Rack, Strom, Monitoring und der Ertrag aus freier Kapazität.

Wann Kaufen eindeutig richtig ist

• Eine Maschine liefe den größten Teil des Monats, Monat für Monat
• Die Daten dürfen Ihre Räume nicht verlassen
• Sie mieten dieselbe Kartenklasse seit über einem halben Jahr
• Latenz oder Bandbreite zu Ihren eigenen Systemen sind relevant

Der Fall, der das Patt auflöst: eigene Leerlaufzeit vermieten

Diese Option lassen die meisten Vergleiche aus. Eine eigene Maschine muss zwischen Ihren Jobs nicht stillstehen — dieselben Plattformen, bei denen Sie gemietet hätten, vermieten Ihre freie Kapazität weiter.

Das verändert die Rechnung grundlegend. Die Amortisation hängt dann nicht nur davon ab, was Sie sparen, sondern auch davon, was die Maschine verdient, während Sie sie nicht brauchen. Genau auf dieser Grundlage bauen wir für Kunden: planen, aufbauen, Stresstest, Inbetriebnahme — und die Leerlaufstunden arbeiten lassen.

Wie viel dabei zusammenkommt, hängt von Kartenklasse, Rechenzentrum und dem tatsächlich freien Anteil des Monats ab — deshalb rechnen wir es pro Fall durch, statt eine Rendite zu nennen.

Rechnen Sie Ihren Fall durch

Zwei Eingaben entscheiden fast alles: Stunden pro Monat und Kartenklasse. Alles Weitere ist zweitrangig.

Der ROI-Rechner vergleicht gegen dieselben wöchentlich aktualisierten Sätze wie dieser Artikel. Wenn Sie lieber mit der konkreten Last sprechen möchten: schreiben Sie uns, was Sie betreiben, und wir rechnen es gemeinsam durch.

Anmerkung zum Mittelweg

Sie müssen sich nicht ein für alle Mal entscheiden. Ein verbreitetes und vernünftiges Muster: mieten, solange die Last noch wandert, die Monatsstunden beobachten und kaufen, sobald die Maschine erkennbar ausgelastet wäre. Die Mietmonate sind nicht verloren — so lernen Sie die Zahl, die die Entscheidung trägt.