Hören Sie auf, GPUs nach der Stunde zu vergleichen.
Die Tabelle mit $/GPU-Stunde vergleicht ein Merkmal eines Produkts, das sich in zehn unterscheidet: wessen Silizium es ist, wo es steht, wer sonst noch darauf läuft, ob es mitten im Job verschwindet, und wer antwortet, wenn es kaputtgeht. Für eine stetige Workload vergleichen Sie Monate mit Monaten, mit den versteckten Posten an der Oberfläche.
In diesem Artikel 3 Abschnitte
- Der GPU-Vergleich, den alle machen, ist eine Spalte mit Stundenpreisen. Die Spalte vergleicht Siliziumzeit und verbirgt alles, was darüber entscheidet, ob Ihre Workload überlebt: Nutzungsmodell, Jurisdiktion, Herkunft der Hardware, Preemption, und wer um 3 Uhr morgens antwortet.
- Die Stundenspalte sagt nicht, ob Sie eine Consumer-Karte, eine geteilte Maschine oder dediziertes Rechenzentrums-Silizium mieten, noch in welcher Jurisdiktion es steht.
- Für eine stetige Produktions-Workload ist der ehrliche Vergleich Gesamtkosten pro Monat gegen Gesamtkosten pro Monat: der Stundensatz mal 720, plus die Ingenieurszeit, die die nackte Maschine bei Ihrem Team hinterlässt, gegen eine feste Managed-Zahl.
- Und wenn Ihre Workload wirklich für einen Nachmittag ausschlägt, ist stundenweise das richtige Produkt, von einem Stundenanbieter. Wir verkaufen das andere, bewusst.
Das Artefakt ist immer dasselbe. Eine Tabelle, sechs Anbieter untereinander, eine Spalte, die zählt: Dollar pro GPU-Stunde, aufsteigend sortiert. Das Meeting zieht es zur obersten Zeile, denn dafür sind sortierte Spalten da. Niemand im Raum stellt die einzige Frage, die die Spalte nicht beantworten kann: Wofür ist diese Zahl der Preis?
Denn eine GPU-Stunde ist keine Einheit desselben Guts. Der Preis vergleicht ein Merkmal eines Produkts, das sich in zehn unterscheidet, und jedes Merkmal, das er verbirgt, ist eines, dem Ihre Produktions-Workload persönlich begegnen wird.
Was die Stundenzahl nicht abbildet
Wessen Silizium ist es: eine Rechenzentrumskarte oder eine Consumer-Karte? Welches Nutzungsmodell: nur Sie allein, oder geteilt mit Fremden, deren Workloads Sie nicht sehen können? Welche Jurisdiktion: ein EU-Rack unter EU-Recht, oder irgendwo, das das Angebot nicht nennt? Welche Kontinuität: reserviert, oder unterbrechbar in dem Moment, in dem Sie jemand mitten im Job überbietet? Und wenn es um 2 Uhr morgens stirbt, was passiert: eine Garantiekette und ein Ingenieur, oder die Erstattung der Stunde? Jede dieser Antworten ist eingepreist. Deshalb ist die günstige Zahl günstig, und der Markt ist ehrlich darin, im Kleingedruckten.
Silizium
Nutzungsmodell
Jurisdiktion
Kontinuität
Support
Der Preis
Der Vergleich, der es tatsächlich entscheidet
Für eine stetige Workload, die einzige Art, für die es dieses Produkt gibt, rechnen Sie alles in dieselbe Einheit um: einen Monat. Ein Stundensatz, der rund um die Uhr läuft, ist der Satz mal ungefähr 720, vor jedem versteckten Posten. Dann addieren Sie die, die die nackte Maschine bei Ihrem Team hinterlässt: die Kämpfe mit Treibern, das Festnageln der CUDA-Version, das Tuning des Serving-Stacks, die Bereitschaft. Unser Leistungsumfang für Managed GPU erklärt, welche Betriebsarbeit bei uns liegt. Das GPU-Dimensionierungsbriefing hilft, eine Konfiguration zu definieren, die Sie mit Ihren aktuellen Ausgaben vergleichen können. Der aufsummierten Spalte steht ein festes Managed-Angebot mit den vereinbarten Betriebsleistungen darin gegenüber. Die linke Spalte füllen wir nicht für Sie aus, denn es ist Ihre Tabelle, und die Sätze ändern sich monatlich. Bringen Sie Ihre Workload auf die Seite GPU servers für ein Angebot mit klarem Umfang.
| DIE STUNDENTABELLE | DIE MONATSTABELLE |
|---|---|
| Satz mal die Stunden, die Sie schätzungsweise nutzen | Eine feste Zahl, im Voraus bekannt |
| DIE ZEILE, DIE ECHTE BUDGETS ENTSCHEIDETDie Zeit Ihrer Ingenieure fürs Hüten des Stacks: ungezählt | Die Managed-Schicht: enthalten, und es ist unsere Bereitschaft, nicht Ihre |
| Preemption und Zeit zum erneuten Einreihen: ungezählt | Reserviert: Die Maschine gehört Ihnen rund um die Uhr |
| Herkunft und Jurisdiktion: unbepreistes Risiko | Rechenzentrums-Silizium in unserem Eigentum, EU-Rack, namentlich bekannte Ingenieure |
Wann stundenweise die richtige Antwort ist
Wenn Ihre Workload ein Forschungsschub ist, ein Nachmittag voller Fine-Tuning-Experimente, ein Batch, den Sie checkpointen und fortsetzen können, wenn die Spot-Instanz stirbt, dann ist stundenweise Elastizität das richtige Produkt, und die Stunden-Clouds machen das gut. Kaufen Sie Stunden, von jemandem, der dafür gebaut ist, Stunden zu verkaufen. Dieser Beitrag ist für die andere Workload: die, die jeden Tag läuft, Daten mit einer Jurisdiktion trägt und dediziertes Rechenzentrums-Silizium in einem EU-Rack braucht.
“Eine Consumer-Karte, eine geteilte Maschine oder dediziertes Rechenzentrums-Silizium in einem EU-Rack: Der Stundenpreis wird Ihnen nicht sagen, welches der drei Sie gekauft haben.”
Klare Antworten
Warum sind GPU-Preise auf Marktplätzen so viel günstiger?+
Weil der Preis das Produkt widerspiegelt: Es können Consumer-Karten sein, geteilte oder unterbrechbare Kapazität, eine nicht angegebene Jurisdiktion und keine Support-Kette.
Wie vergleiche ich stundenweise GPU-Miete mit einem dedizierten Monatsserver?+
Rechnen Sie in dieselbe Einheit um: der Satz mal ungefähr 720 für Nutzung rund um die Uhr, plus die Ingenieurszeit, die eine nackte Maschine bei Ihrem Team hinterlässt, plus die Zeit für Wiederholungsläufe nach Preemptions, gegen eine feste Managed-Zahl. Stetige Workloads hören an diesem Punkt meist auf, ein Stundenprodukt zu sein. Stoßweise nicht, und die sollten stundenweise bleiben.
Ist Spot- oder unterbrechbare GPU-Kapazität für die Produktion brauchbar?+
Für checkpointbare Batch-Arbeit manchmal, und das ist eine legitime Ingenieursentscheidung. Für einen Serving-Endpunkt, den Ihr Produkt aufruft, ist eine Instanz, die absichtlich verschwindet, keine Zuverlässigkeitsstufe. Sie ist ein anderes Produkt.
Sind Sie günstiger als die Stunden-Clouds?+
Für einen Nachmittag, nein. Für eine stetige 24/7-Workload mit den Betriebsleistungen darin rechnen Sie den Monatsvergleich oben durch. Das Format ist die Antwort.
Läuft es jeden Tag? Vergleichen Sie Monate, nicht Stunden.
Bringen Sie uns das Modell und die Workload. Sie bekommen eine feste Zahl mit der Ingenieursarbeit darin, auf EU-Hardware in unserem Eigentum, mit Ihrem Namen darauf.
GPU servers ansehenSie haben das Ende erreicht.
Setzen Sie das Gelesene um
Was betreiben Sie?
Erzählen Sie uns von Workload, Traffic und Anforderungen an die Wiederherstellung. Beginnen Sie mit dem Server-Konfigurator oder besprechen Sie die Details mit einem Ingenieur.
Geschrieben von den Ingenieuren, die die beschriebene Infrastruktur bauen und betreiben.Mit einem Ingenieur sprechen