Il blog di EuroVPS
Note dal campo.
Dalla sala macchine.
Decisioni, indagini e lezioni dalla gestione di infrastrutture di produzione. Scritte dalle persone che se ne prendono cura.
L'archivio
Altro dal team.
Un modello 70B sta davvero in una scheda da 48GB, una volta contato cosa costa la quantizzazione.
Due team falliscono il dimensionamento GPU in direzioni opposte: uno si blocca davanti alla scheda da 80GB e abbandona il progetto; l'altro stipa tutto nella GPU più economica e perde una qualità che non ha mai misurato. Stessa conversazione mancante. L'aritmetica della VRAM che chiunque può verificare, cosa serve onestamente ogni classe di scheda e cosa costa davvero la quantizzazione, mostrati perché siate voi a decidere.
Perché la vostra VM non ha swap
Le VM che costruiamo vengono consegnate senza swap. Paginare su flash rende una carenza di memoria più lenta da vedere e più costosa da servire, e la soluzione è quella che è sempre stata: RAM.
Lasciare l'API è una riga di codice.
I team restano sulle API AI in hosting molto dopo aver deciso di uscirne, perché qualcuno ha detto la frase che chiude la riunione: siamo troppo integrati, è una riscrittura. Per l'impianto, la riscrittura non esiste. Il mondo del serving si è standardizzato su un unico formato di protocollo, e l'endpoint privato che consegniamo lo parla nativamente. Il vostro SDK non sa di essersi spostato.
Il vostro fornitore AI vi limita nel vostro giorno migliore.
Chiunque costruisca su un'API AI hosted ha incontrato il trio: il 429, l'errore di capacità non disponibile, la latenza che si allunga al picco. Si concentrano nei vostri giorni più importanti perché è allora che i giorni più importanti di tutti collidono. Non è sfortuna. È la disposizione dei posti, e il vostro posto non lo controllate voi.
Cosa nasconde la parola SSD sullo storage del vostro host
Le tre architetture che si nascondono dietro la parola SSD, cosa vi compra davvero un array all-flash dedicato, e le cinque domande che strappano una risposta onesta sullo storage a qualsiasi host.
Ridondante, secondo chi?
«Rete completamente ridondante» è una casella spuntata che non significa nulla a meno che chi la rivendica controlli il failover, e un tenant sulla backbone di qualcun altro è ridondante solo per concessione. A differenza di un numero di uptime, questo potete verificarlo da soli sulla tabella di routing pubblica. Ecco come leggerla, per l'host che avete ora e per quello che state valutando.
Non possedete la vostra rete, ed è questo il vostro vero lock-in.
La maggior parte degli host affitta la propria dorsale e la rivende come propria. Fate una domanda prima di firmare: chi possiede l'AS su cui viaggia il vostro traffico?
Dieci ticket di assistenza in dieci anni: così appare l'infrastruttura noiosa.
Un editore nazionale di notizie è con noi da dieci anni e ha aperto circa dieci ticket, notti elettorali comprese. Ecco come l'infrastruttura noiosa si progetta, non ci si inciampa dentro.
Come prepariamo un sito di notizie a un picco di traffico.
Il traffico trova qualunque tetto la configurazione imposti. Preparare un sito di notizie al suo giorno migliore è soprattutto aritmetica e lettura dei numeri giusti, non acquisto di hardware. Ecco il metodo.
Perché le vostre email finiscono nello spam (e cosa dice del vostro host).
I server riceventi valutano il vostro IP mittente, il suo reverse DNS e la reputazione dei suoi vicini prima di leggere una sola parola del vostro contenuto. Metà di quel punteggio la ereditate dal vostro host. Ecco la metà che controllate voi, nell'ordine giusto, e la metà che dovreste verificare prima di registrarvi ovunque.
Abbiamo idee precise sull'hardware, così voi non dovete averne.
Un configuratore lungo è un compito a casa. Le decisioni su storage, rete e calcolo le abbiamo prese una volta, di proposito. Ecco cosa abbiamo scelto, e perché.
Le egress fee esistono per far sembrare l'uscita più cara del restare.
I dati entrano in un hyperscaler gratis e pagano per uscire. Quattro righe dalla vostra ultima fattura mostrano se quel contatore è davvero la barriera.
Perché il vostro nuovo server risulta più lento del vecchio, senza esserlo.
Una domanda frequente dopo una migrazione è se un bogomips più basso significhi un server più lento. Non lo significa: il bogomips non misura nulla che vorreste comprare. Ecco come si dimostra con il lavoro reale.
Il vostro traffico DR fa il pendolare sulla rete internet pubblica.
Ogni revisione di conformità chiede dove vivono i vostri dati. Quasi nessuna chiede su cosa viaggiano tra i siti: replica, sincronizzazione DR, traffico di failover. Alcuni provider mandano la replica attraverso la rete internet pubblica. La nostra viaggia su una mesh IPsec sempre attiva tra i nostri datacenter, di default, perché possediamo la rete a entrambi i capi.
Il vostro endpoint AI non deve stare su internet.
Il diagramma di architettura standard mette il modello dietro un URL pubblico e ci appende un'icona di lucchetto. Nessuno fa la domanda precedente: perché l'endpoint sta su internet, in primo luogo? I vostri documenti sono privati, la vostra app è privata, la macchina è solo vostra. La tratta pubblica esiste per default, non per necessità, e l'esposizione facoltativa va rifiutata.
Un assistente di conoscenza che non esce mai dal vostro edificio.
La funzione di AI aziendale più richiesta è un assistente che risponde a partire dai vostri contratti, ticket e wiki. Il blocco è sempre lo stesso: quei documenti non possono andare a un'API di terzi. Non è necessario. L'intera pipeline gira su un solo GPU server single-tenant, e nulla lo lascia, compresa la parte che tutti dimenticano: il vector database che è, di fatto, la vostra azienda codificata.
Il contatore sul vostro disco e l'array che non ne ha
Su un volume in affitto, le IOPS provisionate si fatturano per allocazione. Ecco come appare lo stesso disco quando l'array all-flash che ci sta sotto è vostro.
Un vero VPC è una proprietà dell'hardware, non una riga nel database di qualcun altro.
Isolamento per tenant su un fabric leaf-spine, resilienza multi-homed e una mesh cifrata tra datacenter: cosa significa una rete privata quando non è una casella spuntata nella console di qualcun altro.
Come dimostriamo che la porta è chiusa prima del go-live.
Prima che un sito vada live, attacchiamo il vero origin da una macchina che il nostro stesso firewall non è mai stato istruito ad autorizzare, scansioniamo tutte le 65.535 porte e confermiamo che la porta è chiusa nel modo in cui la vedrebbe un attaccante: connection refused, non una pagina di login.
Che cos'è un virtual data center (vDC), e quando è la scelta giusta
Un virtual data center dà a un'organizzazione il proprio pool di compute, memoria, storage e rete, gestito come un insieme unico, e la libertà di creare al suo interno ciò che le serve. Che cos'è un vDC, come si confronta con le alternative, e come lo consegniamo.
Configurare WordPress Multisite con nginx e PHP-FPM su RHEL 9 e 10
Un'installazione completa e funzionante di WordPress Multisite su nginx e PHP-FPM in Red Hat Enterprise Linux 9 e 10 e sistemi compatibili: pacchetti, pool PHP-FPM, server block nginx per reti subdirectory e subdomain, TLS, SELinux, firewalld, wp-config.php e verifica.
I più letti
Le guide a cui i lettori tornano- 0110 motivi per cui il vostro sito si carica lentamente (e come risolverli)
- 02Importanti file di log Linux da monitorare su RHEL 9 e 10
- 03Configurare WordPress Multisite con nginx e PHP-FPM su RHEL 9 e 10
- 04Archimede e il paranco: come un uomo mosse una nave
- 05Guida completa ai codici di stato HTTP: la serie 300
- 06Guida completa ai codici di stato HTTP: la serie 400
- 07Quanta RAM, CPU, storage e IOPS servono davvero al vostro VPS?
Mettete la lettura al lavoro
Avete in mente un carico di lavoro?
Partite dai numeri.
Gli strumenti di dimensionamento trasformano i vostri requisiti in una configurazione proposta e in una fascia di prezzo indicativa. Un ingegnere può aiutarvi a valutare cosa fa al caso vostro.
