GPU-Server mieten oder kaufen? Die Rechnung mit echten Preisen

Jedes Team, das Modelle trainiert oder betreibt, steht vor derselben Wahl: GPU-Zeit stundenweise mieten oder die Hardware kaufen. Die ehrliche Antwort ist keine Vorliebe, sondern eine einzige Zahl – wie viele Stunden im Monat die GPUs tatsächlich ausgelastet sind – und die folgende Rechnung sagt Ihnen, auf welcher Seite Sie stehen.

Dieser Artikel arbeitet mit echten Marktdaten statt mit Beispielzahlen. Die Mietpreise sind wöchentliche Mediane über die Anbieter aus dem offenen Datensatz von GetDeploying (Lizenz CC BY 4.0). Die Tabellen werden wöchentlich aktualisiert, die Zahlen im Text stammen aus der Woche vom 5. bis 11. Oktober 2026. Die Stromkosten sind bis zur Kilowattstunde ausgerechnet, damit Sie Ihren eigenen Tarif einsetzen können.

Kurz gefasst

Mieten gewinnt bei unregelmäßiger, explorativer Nutzung oder unterhalb von etwa einem Drittel des Monats. Kaufen gewinnt, wenn eine Maschine die meiste Zeit liefe – und der Abstand wächst danach schnell.

Es gibt aber einen zweiten Befund, der uns überrascht hat, als wir die Preise nebeneinandergelegt haben, und der ändert, wie Sie gemietete Kapazität einkaufen sollten.

Was Mieten heute wirklich kostet

Median-Stundensätze On-Demand über die Anbieter, dazu das günstigste und das teuerste Angebot für dieselbe Karte:

Quelle: GetDeploying, GPU rental price history (CC BY 4.0), On-Demand, Woche vom 12. bis 18. Oktober 2026. Median über die Anbieter (jeder Anbieter zählt einmal); günstigstes und teuerstes sind einzelne Angebote. Ausgeschriebene Preise, USD je GPU-Stunde. Die Auswahl der Karten ist unsere.

Was diese Sätze sind – und was nicht

Ein Vorbehalt, bevor Sie mit den Zahlen arbeiten, denn er verschiebt die Schlussfolgerung für manche Leser.

Es handelt sich um Mediane über alle Anbieter, die GetDeploying erfasst – Hyperscaler, GPU-Clouds und Marktplätze, jeder einmal gezählt. Das ist nicht, was ein Hyperscaler verlangt. Zum Vergleich:

Median: GetDeploying (CC BY 4.0), Woche vom 5. bis 11. Oktober 2026. AWS-Listenpreise, us-east-1, geteilt durch die GPU-Zahl: p6-b200.48xlarge 113,93 $/h, p5.48xlarge 55,04 $/h, p4d.24xlarge 32,77 $/h. Geprüft August 2026 – AWS hat die GPU-Preise im Juli angehoben, die Zahlen sind also in Bewegung.

Ein Hyperscaler kostet also etwa das Doppelte des Medians über die Anbieter für dasselbe Silizium und ein Vielfaches des günstigsten Angebots. Das zahlen Sie nicht für die GPU, sondern für SLA, Enterprise-Support, Compliance-Unterlagen, Redundanz und einen Vertragspartner, den man belangen kann. Bei regulierten Lasten ist dieser Aufschlag nicht optional – für eine Bank oder ein Krankenhaus kommt der Marktplatz gar nicht infrage.

In welche Richtung wirkt das? Zugunsten des Kaufens. Alle Vergleiche in diesem Artikel rechnen mit dem Median über die Anbieter. Wenn Ihre realistische Alternative AWS heißt, ist der Fall für eigene Hardware etwa doppelt so stark, wie die folgende Rechnung nahelegt. Ist Ihre Alternative der günstigste Marktplatz-Host, ist er schwächer – die Break-even-Formel unten nennt beide Fälle.

Für H200 und L40S veröffentlicht AWS keinen Preis je GPU, deshalb fehlen sie oben. Wichtiger ist aber, was nicht in eine Tabelle passt: für die Consumer-Karten in diesem Artikel gibt es beim Hyperscaler überhaupt keine Entsprechung – 4090, 5090 und 3090 vermieten weder AWS noch Azure. (Die RTX PRO 6000 inzwischen schon: Azure bietet VMs mit der RTX PRO 6000 Blackwell Server Edition an, geprüft am 18. Oktober 2026.) Wenn Ihre Last auf eine 4090 oder eine 5090 passt, existiert der Hyperscaler-Vergleich schlicht nicht – die Wahl steht zwischen GPU-Cloud, Marktplatz und Eigentum, und genau davon leben diese Marktplätze.

Der Befund: das Angebot schlägt die GPU

Sehen Sie auf die Spalte „Spanne“, nicht auf den Preis.

In der Woche vom 5. bis 11. Oktober kostete eine RTX PRO 6000 je nach Anbieter zwischen 0,65 und 8,29 Dollar pro Stunde – eine Spanne von 12,8× für dieselbe Karte. Bei der A100 waren es 22×, wobei der Datensatz ihre Versionen mit 40 und 80 GB nicht trennt. Die Mediane von H100 und H200 liegen dagegen nur 1,3× auseinander.

Anders gesagt: welches Angebot Sie wählen, zählt mehr als welche GPU Sie wählen. Das teuerste Angebot für eine RTX 4090 (2,22 $) liegt über dem Median der A100 (1,85 $) und beim Fünffachen des 4090-Medians.

Die Spanne verrät auch, woher ein Angebot kommt. Laut den Hinweisen von GetDeploying sind die niedrigsten Preise oft ein Marktplatz-Host, eine kleine Konfiguration oder ein Aktionspreis. Die Listenpreise der großen Clouds liegen weit über dem Median: der AWS-Preis für die H100, 6,88 $ je Karte, ist doppelt so hoch. Keines der beiden Enden ist „der“ Marktpreis – deshalb führt die Tabelle mit dem Median, und die Spalte „Günstigstes“ verdient Misstrauen, bevor sie Ihren Job bekommt.

Wenn Sie mieten, kalkulieren Sie Zeit für die Prüfung der Anbieter ein, nicht nur für die Stunden. Was vor dem Vertrauen in eine gemietete Maschine zu prüfen ist, haben wir gesondert aufgeschrieben.

Der Posten, den alle vergessen: Strom

Die Kaufseite besteht nie nur aus Hardware. Hier die Rechnung, bei 0,18 €/kWh – ein Gewerbetarif, den Sie durch Ihren eigenen ersetzen sollten – für eine Karte im Dauerbetrieb:

Multiplizieren Sie das mit etwa 1,5 für Netzteilverluste, Kühlung sowie CPUs, RAM und Laufwerke um die Karten herum. Ein Acht-GPU-Server kostet damit rund 900–1.100 € im Monat im Betrieb, bevor jemand die Anschaffung anfasst.

Das klingt nach viel, bis man die Mietspalte danebenstellt:

Die Feinheit in dieser Tabelle

Die drei Zeilen verhalten sich völlig unterschiedlich, und genau das übersehen die meisten Vergleiche.

Bei Rechenzentrumskarten ist der Eigenbetrieb nicht einmal in der Nähe. Acht H100 rund um die Uhr zum Median zu mieten kostete in der Woche vom 5. bis 11. Oktober etwa das Sechzehnfache des Stroms. Jeder Monat echter Dauerlast tilgt einen erheblichen Teil der Anschaffung.

Bei Consumer-Karten schrumpft der Abstand deutlich. Acht gemietete 5090 kosten etwa das Vierfache ihres eigenen Stroms – die Amortisation zieht sich, und Mieten bleibt viel länger vertretbar.

Der Grund ist einfach: Bei Consumer-Karten ist die Mietpreisbildung wegen des riesigen Angebots hart umkämpft. Rechenzentrumskapazität ist knapper und entsprechend bepreist. Wenn Ihre Last in Consumer-VRAM passt, ist Mieten eine stärkere Option, als die übliche Empfehlung nahelegt.

Die Break-even-Formel

Vergleichen Sie Gleiches mit Gleichem – Kosten je produktiver GPU-Stunde:

gemietet = Satz/Stunde × genutzte Stunden
im Besitz = (Hardware ÷ Nutzungsmonate) + Strom + Hosting + Wartung
Break-even = Hardwarekosten ÷ (Monatsmiete − Monatsbetriebskosten)

Am Beispiel der RTX PRO 6000 (Woche vom 5. bis 11. Oktober): Jeder Monat Dauerbetrieb spart gegenüber Miete zum Median rund 11.800 $ – 12.848 $ Miete gegen etwa 1.065 $ Strom (946 € zum EZB-Kurs von 1,1253 vom 16. Oktober 2026). Gegenüber dem günstigsten Angebot der Woche, 0,65 $ pro Stunde, sind es rund 2.700 $ im Monat. Teilen Sie Ihre Hardwarekosten durch die Zahl, die Ihrer realistischen Alternative entspricht, und Sie haben die Amortisation in Monaten.

Wir veröffentlichen keine Serverpreise, weil die Zahl ohne Konfiguration nichts aussagt – VRAM, Interconnect, Speicher und Leistungsreserve bewegen sie um den Faktor drei. Der Konfigurator liefert binnen 3 Werktagen ein echtes Angebot, und der ROI-Rechner rechnet gegen dieselben wöchentlichen Sätze wie oben.

Die vier Fragen, die es wirklich entscheiden

Kosten sind eine Achse. Dies sind die anderen, und jede einzelne kann die Rechnung aushebeln:

Wie sensibel sind die Daten? Wer personenbezogene, medizinische oder Finanzdaten verarbeitet, kann oft schlicht nicht bei einem anonymen Host mieten, unabhängig vom Preis. Eigene Hardware in einem bekannten Rack oder ein Anbieter mit Auftragsverarbeitungsvertrag ist dann der einzige rechtmäßige Weg.

Wie gleichmäßig ist die Last? Dauerhafte Inferenz spricht am stärksten für Eigenbetrieb. Gelegentliche Experimente und einmalige Trainingsläufe sprechen am stärksten fürs Mieten. Seien Sie ehrlich – die meisten Teams überschätzen, wie ausgelastet eine Maschine sein wird.

Wie sieht das Budget aus? Mieten ist laufender Aufwand ohne Bindung. Kaufen ist Investition mit Amortisationszeit. Ein Unternehmen, das dieses Jahr kein Kapital binden kann, sollte mieten, auch wenn die Rechnung fürs Kaufen spricht.

Was passiert, wenn Sie verdoppeln müssen? Gemietete Kapazität skaliert in Minuten, eigene in Wochen – Beschaffung, Aufbau, Burn-in, Inbetriebnahme. Bei unvorhersehbar steigendem Bedarf hat diese Vorlaufzeit echte Kosten.

Wann Mieten eindeutig richtig ist

• Sie prüfen noch, ob das Modell überhaupt trägt
• Die Auslastung liegt unter etwa einem Drittel des Monats
• Sie brauchen eine Kartenklasse für zwei Wochen und nie wieder
• Sie können kein Kapital binden, oder das Projekt ist nur bis zum Pilot finanziert

Wenn Sie dort landen, muss die Maschine trotzdem irgendwo stehen und betreut werden. GPU-Hosting und Colocation deckt die Hälfte ab, die nach der Entscheidung beginnt: Rack, Strom, Monitoring und der Ertrag aus freier Kapazität.

Wann Kaufen eindeutig richtig ist

• Eine Maschine liefe den größten Teil des Monats, Monat für Monat
• Die Daten dürfen Ihre Räume nicht verlassen
• Sie mieten dieselbe Kartenklasse seit über einem halben Jahr
• Latenz oder Bandbreite zu Ihren eigenen Systemen sind relevant

Der Fall, der das Patt auflöst: eigene Leerlaufzeit vermieten

Diese Option lassen die meisten Vergleiche aus. Eine eigene Maschine muss zwischen Ihren Jobs nicht stillstehen – dieselben Plattformen, bei denen Sie gemietet hätten, vermieten Ihre freie Kapazität weiter.

Das verändert die Rechnung grundlegend. Die Amortisation hängt dann nicht nur davon ab, was Sie sparen, sondern auch davon, was die Maschine verdient, während Sie sie nicht brauchen. Genau auf dieser Grundlage arbeiten wir für Kunden: Wir planen die Maschine, unser Montagepartner baut sie auf und testet sie unter Last, wir nehmen sie in Betrieb – und lassen die Leerlaufstunden arbeiten.

Wie viel dabei zusammenkommt, hängt von Kartenklasse, Rechenzentrum und dem tatsächlich freien Anteil des Monats ab – deshalb rechnen wir es pro Fall durch, statt eine Rendite zu nennen.

Rechnen Sie Ihren Fall durch

Zwei Eingaben entscheiden fast alles: Stunden pro Monat und Kartenklasse. Alles Weitere ist zweitrangig.

Der ROI-Rechner vergleicht gegen dieselben wöchentlich aktualisierten Sätze wie dieser Artikel. Wenn Sie lieber mit der konkreten Last sprechen möchten: schreiben Sie uns, was Sie betreiben, und wir rechnen es gemeinsam durch.

Anmerkung zum Mittelweg

Sie müssen sich nicht ein für alle Mal entscheiden. Ein verbreitetes und vernünftiges Muster: mieten, solange die Last noch wandert, die Monatsstunden beobachten und kaufen, sobald die Maschine erkennbar ausgelastet wäre. Die Mietmonate sind nicht verloren – so lernen Sie die Zahl, die die Entscheidung trägt.