Перестаньте порівнювати GPU за годинами.
Таблиця $/GPU-година порівнює одну властивість продукту, який відрізняється десятьма: чиє це залізо, де воно стоїть, хто ще на ньому, чи зникне воно посеред завдання і хто відповідає, коли воно ламається. Для сталого навантаження порівнюйте місяці з місяцями, виводячи приховані рядки на поверхню.
У цій статті 3 розділів
- Порівняння GPU, яке роблять усі, є стовпчиком погодинних цін. Стовпчик порівнює час на залізі і ховає все, що вирішує, чи виживе ваше навантаження: оренду, юрисдикцію, походження обладнання, витіснення і хто відповідає о 3 ночі.
- Погодинний стовпчик не каже, чи орендуєте ви споживчу карту, спільну машину чи виділене дата-центрове залізо, і в якій юрисдикції воно стоїть.
- Для сталого робочого навантаження чесним порівнянням є загальна місячна сума проти загальної місячної суми: погодинна ставка, помножена на 720, плюс інженерний час, який гола машина залишає вашій команді, проти одного фіксованого керованого числа.
- А якщо ваше навантаження справді сплескує на пів дня, погодинна оплата є правильним продуктом, від погодинного провайдера. Ми продаємо інше, навмисно.
Артефакт завжди той самий. Таблиця, шість провайдерів збоку, один стовпчик, який має значення: долари за GPU-годину, відсортовані за зростанням. Нарада тяжіє до верхнього рядка, бо для цього й існують відсортовані стовпчики. Ніхто в залі не ставить єдиного запитання, на яке стовпчик не може відповісти: ціною чого є це число?
Бо GPU-година не є одиницею того самого товару. Ціна порівнює одну властивість продукту, який відрізняється десятьма, і кожна властивість, яку вона ховає, є тією, з якою ваше робоче навантаження зустрінеться особисто.
Чого погодинне число не містить
Чиє це залізо: дата-центрова карта чи споживча? Яка оренда: тільки ваша чи спільна з незнайомцями, чиїх навантажень ви не бачите? Яка юрисдикція: стійка в ЄС за законами ЄС чи десь, де оголошення не вказує? Яка безперервність: зарезервована чи переривана тієї миті, коли хтось перебиває вашу ставку посеред завдання? І коли воно вмирає о 2 ночі, що відбувається: гарантійний ланцюжок та інженер чи повернення грошей за годину? Кожна з цих відповідей закладена в ціну. Ось чому дешеве число дешеве, і ринок чесний щодо цього, дрібним шрифтом.
Залізо
Оренда
Юрисдикція
Безперервність
Підтримка
Ціна
Порівняння, яке насправді вирішує
Для сталого навантаження, єдиного виду, для якого існує цей продукт, переведіть усе в одну одиницю: місяць. Погодинна ставка, що працює цілодобово, є ставкою, помноженою приблизно на 720, до будь-якого прихованого рядка. Потім додайте ті, що гола машина залишає вашій команді: боротьбу з драйверами, закріплення версій CUDA, налаштування стеку обслуговування, чергування. Наш обсяг керованого GPU пояснює, яка експлуатаційна робота лежить на нас; запит на підбір GPU допомагає визначити конфігурацію для порівняння з вашими поточними витратами. Проти підсумованого стовпчика стоїть одна фіксована керована пропозиція з узгодженою експлуатацією всередині. Ми не заповнюватимемо лівий стовпчик за вас, бо це ваша таблиця, а ставки змінюються щомісяця. Принесіть ваше навантаження на сторінку GPU Servers для пропозиції з визначеним обсягом.
| ПОГОДИННА ТАБЛИЦЯ | МІСЯЧНА ТАБЛИЦЯ |
|---|---|
| Ставка, помножена на години, які ви припускаєте використати | Одне фіксоване число, відоме наперед |
| РЯДОК, ЯКИЙ ВИРІШУЄ РЕАЛЬНІ БЮДЖЕТИЧас ваших інженерів на няньчення стеку: не порахований | Керований рівень: включений, і це наше чергування, а не ваше |
| Час витіснення і повторної постановки в чергу: не порахований | Зарезервовано: машина ваша цілодобово |
| Походження і юрисдикція: неоцінений ризик | Власне дата-центрове залізо, стійка в ЄС, названі інженери |
Коли погодинна оплата є правильною відповіддю
Якщо ваше навантаження є дослідницьким сплеском, пообіддям експериментів із fine-tuning, пакетом, який можна зберегти контрольною точкою і відновити, коли spot-екземпляр помре, тоді погодинна еластичність є правильним продуктом, і погодинні хмари роблять це добре. Купуйте години у того, хто побудований, щоб продавати години. Цей допис для іншого навантаження: того, що працює щодня, несе дані з юрисдикцією і потребує виділеного дата-центрового заліза у стійці в ЄС.
“Споживча карта, спільна машина чи виділене дата-центрове залізо у стійці в ЄС: погодинна ціна не скаже вам, що з цього ви купили.”
Прямі відповіді
Чому ціни на GPU на маркетплейсах настільки нижчі?+
Бо ціна відображає продукт: це можуть бути споживчі карти, спільна або перервана потужність, невказана юрисдикція і відсутність ланцюжка підтримки.
Як порівняти погодинну оренду GPU з виділеним сервером на місяць?+
Переведіть в одну одиницю: ставка, помножена приблизно на 720 для цілодобового використання, плюс інженерний час, який гола машина залишає вашій команді, плюс час повторних запусків через витіснення, проти одного фіксованого керованого числа. Сталі навантаження зазвичай перестають бути погодинним продуктом у цій точці. Сплескові ні, і вони мають залишатися погодинними.
Чи придатна spot або перервана GPU-потужність для робочого середовища?+
Для пакетної роботи з контрольними точками іноді так, і це законне інженерне рішення. Для endpoint обслуговування, який викликає ваш продукт, екземпляр, що зникає за задумом, не є рівнем надійності. Це інший продукт.
Ви дешевші за погодинні хмари?+
На пів дня ні. Для сталого навантаження 24/7 з включеною експлуатацією зробіть місячне порівняння вище. Формат і є відповіддю.
Працює щодня? Порівнюйте місяці, а не години.
Принесіть нам модель і навантаження. Ви отримаєте одне фіксоване число з інженерією всередині, на власному залізі в ЄС із вашим іменем на ньому.
Переглянути GPU ServersВи дійшли до кінця.
Застосуйте прочитане на практиці
Що ви запускаєте?
Розкажіть нам про навантаження, трафік і вимоги до відновлення. Почніть з конструктора сервера або обговоріть деталі з інженером.
Написано інженерами, які будують і експлуатують інфраструктуру, про яку йдеться.Поговоріть з інженером