Vai al contenuto
EuroVPSEuroVPS

Cosa facciamo · Storage e compute: Ingegneria delle prestazioni e della capacità

Misuriamo, poi risolviamo il vero collo di bottiglia: dimensionamento NUMA, hashing dei bond, tuning del flash, memoria dei database. Poi si parla di hardware.
Dell PowerEdge R940 four-socket servers

La maggior parte delle piattaforme lente non ha bisogno di altro hardware. Ha bisogno di qualcuno che trovi l'unica cosa che davvero la frena. Misuriamo il vero collo di bottiglia, cambiamo una cosa sola e misuriamo di nuovo, e la maggior parte dei nostri risultati più grandi è arrivata da una singola modifica verificata, non da un ordine d'acquisto.

Cos'è

La pratica ingegneristica che tiene insieme il nostro calcolo, il nostro storage e la nostra rete. Quando un carico di lavoro ha bisogno di più capacità, vi diciamo esattamente quale risorsa, e perché.

Come lo costruiamo

Regole applicate a ogni build. Alcuni risultati sono troppo affidabili per lasciarli al caso, quindi sono regole fisse su ogni server e ogni VM che consegniamo:

  • VM dimensionate dentro un socket. Mai più vCPU dei core di un socket fisico, mai più memoria di quella servita da un nodo NUMA. Oltre quel confine l'accesso alla memoria diventa remoto a circa 1,7 volte la latenza locale e la penalità si accumula, così la VM più grande è spesso la più lenta.
  • Bond che usano entrambi i link. Hashing su indirizzi IP e porte, in corrispondenza con il lato switch, così ogni membro di un bond trasporta traffico.
  • Il flash trattato come flash. Il RAID hardware può nascondere il fatto che un volume è a stato solido, quindi leggiamo il tipo di supporto dai dischi e impostiamo scheduler, read ahead e queue depth di conseguenza.
  • Ai database la loro memoria. Buffer pool dimensionati sul working set.
  • Nessuno swap sulle VM. La pressione sulla memoria si risolve con la memoria o con una correzione nell'applicazione, mai scaricandola sullo storage.

Misurazione a ogni livello. I/O per volume sugli array, contatori per porta su bond e switch, log delle query e slow log sui database, tempi misurati dall'esterno attraverso la CDN, potenza per rack e per fase.

Da cosa vi protegge

  • Pagare capacità che un'impostazione predefinita stava sprecando.
  • Comprare hardware per un problema che è in realtà un problema di tuning.
  • Una VM più grande che gira più lenta di quella più piccola che ha sostituito.
  • Metà della vostra banda di rete che resta inattiva.
  • Storage flash che consuma la propria durata su letture che un database avrebbe dovuto tenere in cache.

In pratica

L'edge di un editore, provato sotto carico. Prima del lancio ad Atene, il livello di caching dell'editore è stato costruito su due strati, memoria davanti al flash sulla SAN, e testato sotto carico con ventimila utenti virtuali. Ha retto, e il progetto è diventato il nostro standard per le piattaforme editoriali.

Perché EuroVPS

  • Misuriamo prima di vendere, e la risposta è spesso una modifica, non un upgrade.
  • Regole di tuning fisse applicate a ogni build, non su richiesta.
  • Raccomandazioni che dicono quale risorsa, quanta e perché.

Domande frequenti

  1. Il mio sito è lento. Mi serve un server più grande? Forse, ma prima misuriamo. Spesso la risposta è la configurazione, il caching o una query, e in ogni caso vi mostreremo le prove.
  2. Perché non date più core alla mia VM? Oltre un socket, i core in più aggiungono latenza di memoria remota. Dimensioniamo per stare dentro il socket, e di solito è più veloce.
  3. Fate tuning delle applicazioni dei clienti? Ottimizziamo tutto ciò che gestiamo e consigliamo su ciò che gestite voi: memoria dei database, numero di worker, livelli di caching, query. Dove la correzione sta nel vostro codice, vi diremo esattamente dove.
  4. È un servizio separato? È il modo in cui lavoriamo su ogni piattaforma che gestiamo. Sono disponibili anche audit delle prestazioni dedicati, con un prima e un dopo per iscritto.
  • closing line: Più veloce di solito comincia con una misurazione, non con una fattura. Parlate con un ingegnere di ciò che vi sta davvero rallentando.
  • CTA: Parla con un ingegnere

Il vostro prossimo partner per l'infrastruttura

Guardiamo la vostra infrastruttura.

Raccontateci cosa fate girare oggi e cosa deve migliorare. Un ingegnere esaminerà la vostra richiesta e vi aiuterà a pianificare il passo successivo.

+357 222 32280
Un ingegnere EuroVPS trasporta un nodo server nella sala del datacenter
Una conversazione con le persone che si prenderanno cura della vostra infrastruttura.

Partiamo dalla vostra infrastruttura.

Un po' di contesto ci aiuta a iniziare la conversazione giusta.

Useremo i vostri dati per rispondere alla vostra richiesta. Informativa sulla privacy