Всеки екип, който започне да тренира или обслужва модели, стига до едно и също разклонение: да наеме GPU време на час, или да купи хардуера. Честният отговор не е въпрос на предпочитание. Той е едно число — колко часа месечно реално ще държиш GPU-тата заети — и сметката по-долу казва от коя страна на чертата си.
Накратко
Наемането печели, когато натоварването е на пристъпи, проучвателно, или под около една трета от месеца. Купуването печели, когато машината би работила през по-голямата част от времето — и разликата нараства бързо след това. Всичко останало в статията служи да разбереш кой от двата случая си ти.
Формулата за пречупната точка
Сравняваш часовата цена на двете опции за един и същи период.
Наемането е просто и честно — плащаш това, което ползваш:
Наем_месец = часова_ставка × GPU × използвани_часовеПритежанието трябва да включва всичко, не само фактурата за кутията:
Собствен_месец = хардуер/месеци_на_амортизация
+ мощност_kW × 24 × 30 × цена_на_тока
+ колокация_или_помещение
+ време_за_поддръжкаПречупната точка е там, където двете се изравняват. Преподредена, полезната форма е:
пречупни_часове = Собствен_месец / (часова_ставка × GPU)Раздели на 720 (часовете в месеца) и получаваш заетостта, която трябва да поддържаш, за да се изплати покупката. Под нея — наемай. Над нея — купувай.
Разходите, които всички забравят
Формулата е лесна. Трудни са честните входни данни — точно там се разпадат повечето сметки.
Срок на амортизация, а не покупна цена. GPU сървърът не е разход за един месец. Избери броя месеци, през които реалистично ще го ползваш — за карти от текущото поколение три години са защитим планов хоризонт, а остатъчната стойност накрая е реална, но не бива да се залага.
Токът не е TDP-то от спецификацията. GPU рядко стои на 100% консумация, но сървърът има и процесори, вентилатори и загуби в захранването. Смятай по измерена консумация от контакта при реалистично натоварване, не по сбора от TDP-та на компонентите — и помни, че на колокация често плащаш запазената токова верига, а не изразходваните ватове.
Охлаждане и площ. На колокация това е вътре в наема за шкафа. В собствен офис не е безплатно — това е сметка за климатик и, при реална плътност, помещение, което никога не е проектирано за целта.
Време за поддръжка. Някой кръпва драйвери, следи температури, сменя отказало захранване. Ако никой не е назначен за това, разходът не е изчезнал — превърнал се е в авария, която чака лоша седмица.
Цената на празния ход при притежание. Това е точката, която решава спора. Наетото GPU не струва нищо, щом спреш задачата. Собственото GPU струва еднакво, независимо дали тренира, или стои тъмно. Точно тази асиметрия е цялата причина екипите с ниска заетост да наемат.
Кога наемането е ясно правилното
- Още не познаваш натоварването си. В първите месеци изискванията се менят бързо. Наемането ти оставя свободата да промениш решението си за VRAM, поколение карта или архитектура.
- Търсенето ти е на пристъпи. Модел, който се тренира веднъж на тримесечие, inference с пикове по кампании, изследователски порив — да плащаш само активните часове е просто по-евтино.
- Трябва ти карта, която не би купил. Наемането е разумният начин да провериш дали по-голяма карта наистина помага, преди да вържеш капитал в нея.
- Трябва ти капацитет утре. Хардуерът има срокове на доставка, наетата инстанция — не.
Кога купуването е ясно правилното
- Машините биха работили през повечето време. След определена заетост часовата сметка вече не е близка.
- Данните не могат да излизат от твой контрол. Регулирана дейност, клиентски данни по договор, всичко, при което отговорът на „къде се изпълнява това” трябва да е конкретна сграда.
- Трябва ти предвидима латентност без шумни съседи. Отделената машина се държи еднакво в понеделник и в петък.
- Можеш да осребриш празния ход. Това променя сметката изцяло — виж по-долу.
Случаят, който разчупва равенството: да отдадеш собствения си празен ход
Ако собствената ти машина може да бъде обявена на GPU marketplace, когато не ти трябва, часовете на празен ход спират да са чист разход. Ефективният месечен разход става:
Ефективен_собствен = Собствен_месец − (наемна_ставка × GPU × отдадени_празни_часове × (1 − комисиона))Две честни уговорки, защото точно тук прогнозите най-често стават измислица:
- Никой не може да гарантира заетост предварително. Колко от празните часове реално ще бъдат наети зависи от търсенето на твоя модел карта, от рейтинга ти за надеждност и от цената ти спрямо всички останали. Всяко твърдо обещание за заетост е червен флаг.
- Машината трябва да си заслужи обявата. Платформите измерват хоста и публикуват резултата. Възел със слаба надеждност или с недохранен процесор стои ненает, колкото и добри да са GPU-тата. Как изглежда това измерване на практика описахме в казуса ни за верификацията във Vast.ai — сървърът там е верифициран с 98.79% надеждност и обявен на $1.05 на GPU-час.
Сметни своя случай
GPU ROI калкулаторът е построен точно около тази аритметика, с живи пазарни цени от Vast.ai — тоест часовата ставка не е нещо, което сме си измислили. Въведи своята цена на хардуера, цена на тока и очаквана заетост, и получаваш срок на изплащане и годишен ROI.
Ако отговорът излезе в полза на покупката, следващият въпрос е какво точно да се строи — конфигурирай сървър и се връщаме със спецификация и цена до 24 часа. Ако излезе в полза на наемането, това е напълно добър отговор и ще ти го кажем.
Бележка за средния път
Купуването и наемането не са единствените две опции, а най-добрият отговор често е и двете: притежаваш базова машина, оразмерена за постоянното натоварване, и наемаш пиковете. Получаваш икономиката на притежанието там, където заетостта е висока, и гъвкавостта на наема там, където не е — без да плащаш за капацитет, който стои тъмен единайсет месеца в годината.