Σταματήστε να συγκρίνετε GPU με την ώρα.
Το υπολογιστικό φύλλο με $/GPU-ώρα συγκρίνει ένα χαρακτηριστικό ενός προϊόντος που διαφέρει σε δέκα: ποιανού silicon είναι, πού βρίσκεται, ποιος άλλος είναι πάνω του, αν εξαφανίζεται στη μέση της δουλειάς, και ποιος απαντά όταν χαλάσει. Για έναν σταθερό φόρτο εργασίας, συγκρίνετε μήνες με μήνες, με τις κρυφές γραμμές στην επιφάνεια.
Σε αυτό το άρθρο 3 ενότητες
- Η σύγκριση GPU που τρέχουν όλοι είναι μια στήλη ωριαίων τιμών. Η στήλη συγκρίνει χρόνο silicon και κρύβει όλα όσα κρίνουν αν ο φόρτος εργασίας σας θα επιβιώσει: μίσθωση, δικαιοδοσία, προέλευση hardware, preemption, και ποιος απαντά στις 3 τα ξημερώματα.
- Η ωριαία στήλη δεν λέει αν νοικιάζετε κάρτα καταναλωτή, κοινόχρηστο μηχάνημα, ή αποκλειστικό silicon datacenter, ούτε σε ποια δικαιοδοσία βρίσκεται.
- Για έναν σταθερό φόρτο παραγωγής η τίμια σύγκριση είναι συνολικό μηνιαίο με συνολικό μηνιαίο: η ωριαία τιμή επί 720, συν ο χρόνος μηχανικών που το γυμνό μηχάνημα αφήνει στην ομάδα σας, απέναντι σε έναν σταθερό managed αριθμό.
- Και αν ο φόρτος σας πραγματικά εκρήγνυται για ένα απόγευμα, το ωριαίο είναι το σωστό προϊόν, από έναν ωριαίο πάροχο. Εμείς πουλάμε το άλλο πράγμα, σκόπιμα.
Το αντικείμενο είναι πάντα το ίδιο. Ένα υπολογιστικό φύλλο, έξι πάροχοι στο πλάι, μία στήλη που μετράει: δολάρια ανά GPU-ώρα, σε αύξουσα σειρά. Η συνάντηση έλκεται προς την πρώτη γραμμή, γιατί γι' αυτό υπάρχουν οι ταξινομημένες στήλες. Κανείς στην αίθουσα δεν κάνει τη μόνη ερώτηση που η στήλη δεν μπορεί να απαντήσει: τι τιμή είναι αυτός ο αριθμός;
Γιατί μια GPU-ώρα δεν είναι μονάδα του ίδιου αγαθού. Η τιμή συγκρίνει ένα χαρακτηριστικό ενός προϊόντος που διαφέρει σε δέκα, και κάθε χαρακτηριστικό που κρύβει είναι ένα που ο φόρτος παραγωγής σας θα συναντήσει προσωπικά.
Τι δεν κωδικοποιεί ο ωριαίος αριθμός
Ποιανού silicon είναι: κάρτα datacenter, ή κάρτα καταναλωτή; Τι μίσθωση: δική σας μόνο, ή κοινόχρηστη με αγνώστους των οποίων τους φόρτους δεν μπορείτε να δείτε; Ποια δικαιοδοσία: rack στην ΕΕ υπό δίκαιο ΕΕ, ή κάπου που η καταχώριση δεν αναφέρει; Τι συνέχεια: δεσμευμένο, ή διακοπτόμενο τη στιγμή που κάποιος πλειοδοτεί στη μέση της δουλειάς; Και όταν πεθάνει στις 2 τα ξημερώματα, τι γίνεται: αλυσίδα εγγύησης και μηχανικός, ή επιστροφή της ώρας; Κάθε μία από αυτές τις απαντήσεις είναι τιμολογημένη. Γι' αυτό ο φθηνός αριθμός είναι φθηνός, και η αγορά είναι τίμια γι' αυτό, στα ψιλά γράμματα.
Silicon
Μίσθωση
Δικαιοδοσία
Συνέχεια
Υποστήριξη
Η τιμή
Η σύγκριση που πραγματικά το κρίνει
Για έναν σταθερό φόρτο εργασίας, το μόνο είδος για το οποίο υπάρχει αυτό το προϊόν, μετατρέψτε τα πάντα στην ίδια μονάδα: έναν μήνα. Μια ωριαία τιμή που τρέχει όλο το εικοσιτετράωρο είναι η τιμή επί περίπου 720 πριν από κάθε κρυφή γραμμή. Μετά προσθέστε αυτές που το γυμνό μηχάνημα αφήνει στην ομάδα σας: οι μάχες με drivers, το κάρφωμα έκδοσης CUDA, η ρύθμιση του serving stack, η ετοιμότητα. Το managed εύρος GPU μας εξηγεί ποια λειτουργική δουλειά είναι δική μας. Το brief διαστασιολόγησης GPU βοηθά να οριστεί μια διαμόρφωση για σύγκριση με την τρέχουσα δαπάνη σας. Απέναντι στην αθροισμένη στήλη στέκεται μία σταθερή managed προσφορά με τις συμφωνημένες λειτουργίες μέσα της. Δεν θα συμπληρώσουμε εμείς την αριστερή στήλη για εσάς, γιατί είναι το δικό σας υπολογιστικό φύλλο και οι τιμές αλλάζουν κάθε μήνα. Φέρτε τον φόρτο εργασίας σας στη σελίδα GPU Servers για μια προσφορά με εύρος.
| ΤΟ ΩΡΙΑΙΟ ΦΥΛΛΟ | ΤΟ ΜΗΝΙΑΙΟ |
|---|---|
| Η τιμή επί τις ώρες που μαντεύετε ότι θα χρησιμοποιήσετε | Ένας σταθερός αριθμός, γνωστός εκ των προτέρων |
| Η ΓΡΑΜΜΗ ΠΟΥ ΚΡΙΝΕΙ ΤΟΥΣ ΠΡΑΓΜΑΤΙΚΟΥΣ ΠΡΟΫΠΟΛΟΓΙΣΜΟΥΣΟ χρόνος των μηχανικών σας για το νταντέμα του stack: αμέτρητος | Το managed επίπεδο: περιλαμβάνεται, και η ετοιμότητα είναι δική μας, όχι δική σας |
| Preemption και χρόνος επανατοποθέτησης στην ουρά: αμέτρητος | Δεσμευμένο: το μηχάνημα είναι δικό σας όλο το εικοσιτετράωρο |
| Προέλευση και δικαιοδοσία: ατιμολόγητος κίνδυνος | Silicon datacenter που μας ανήκει, rack στην ΕΕ, επώνυμοι μηχανικοί |
Πότε το ωριαίο είναι η σωστή απάντηση
Αν ο φόρτος σας είναι μια ερευνητική έκρηξη, ένα απόγευμα πειραμάτων fine-tuning, μια παρτίδα που μπορείτε να κάνετε checkpoint και να συνεχίσετε όταν πεθάνει το spot instance, τότε η ωριαία ελαστικότητα είναι το σωστό προϊόν και τα ωριαία clouds το κάνουν καλά. Αγοράστε ώρες, από κάποιον φτιαγμένο να πουλά ώρες. Αυτό το άρθρο είναι για τον άλλο φόρτο: αυτόν που τρέχει κάθε μέρα, κουβαλά δεδομένα με δικαιοδοσία, και χρειάζεται αποκλειστικό silicon datacenter σε rack στην ΕΕ.
“Κάρτα καταναλωτή, κοινόχρηστο μηχάνημα, ή αποκλειστικό silicon datacenter σε rack στην ΕΕ: η ωριαία τιμή δεν θα σας πει ποιο από τα τρία αγοράσατε.”
Ευθείες απαντήσεις
Γιατί οι τιμές GPU στα marketplaces είναι τόσο πιο φθηνές;+
Επειδή η τιμή αντανακλά το προϊόν: μπορεί να είναι κάρτες καταναλωτή, κοινόχρηστη ή διακοπτόμενη χωρητικότητα, αδήλωτη δικαιοδοσία, και καμία αλυσίδα υποστήριξης.
Πώς συγκρίνω την ωριαία ενοικίαση GPU με έναν dedicated μηνιαίο server;+
Μετατρέψτε στην ίδια μονάδα: η τιμή επί περίπου 720 για χρήση όλο το εικοσιτετράωρο, συν ο χρόνος μηχανικών που ένα γυμνό μηχάνημα αφήνει στην ομάδα σας, συν ο χρόνος επανεκτέλεσης για preemptions, απέναντι σε έναν σταθερό managed αριθμό. Οι σταθεροί φόρτοι συνήθως παύουν να είναι ωριαίο προϊόν σε αυτό το σημείο. Οι εκρηκτικοί όχι, και πρέπει να μείνουν ωριαίοι.
Είναι η spot ή διακοπτόμενη χωρητικότητα GPU χρησιμοποιήσιμη για παραγωγή;+
Για batch δουλειά με checkpoint, μερικές φορές, και είναι θεμιτή απόφαση μηχανικής. Για ένα serving endpoint που καλεί το προϊόν σας, ένα instance που εξαφανίζεται εκ σχεδιασμού δεν είναι βαθμίδα αξιοπιστίας. Είναι διαφορετικό προϊόν.
Είστε φθηνότεροι από τα ωριαία clouds;+
Για ένα απόγευμα, όχι. Για έναν σταθερό φόρτο 24/7 με τις λειτουργίες μέσα, τρέξτε τη μηνιαία σύγκριση παραπάνω. Η μορφή είναι η απάντηση.
Το τρέχετε κάθε μέρα; Συγκρίνετε μήνες, όχι ώρες.
Φέρτε μας το μοντέλο και τον φόρτο εργασίας. Θα πάρετε έναν σταθερό αριθμό με τη μηχανική δουλειά μέσα του, σε μέταλλο στην ΕΕ που μας ανήκει, με το όνομά σας πάνω του.
Δείτε τους GPU ServersΦτάσατε στο τέλος.
Βάλτε την ανάγνωση σε εφαρμογή
Τι τρέχετε;
Πείτε μας για τον φόρτο εργασίας, την κίνηση και τις απαιτήσεις ανάκαμψης. Ξεκινήστε από το εργαλείο διαμόρφωσης server ή συζητήστε τις λεπτομέρειες με έναν μηχανικό.
Γραμμένο από τους μηχανικούς που χτίζουν και λειτουργούν την υποδομή που περιγράφει.Μιλήστε με έναν μηχανικό