Le blog EuroVPS
Notes de terrain.
Depuis la salle des machines.
Décisions, investigations et leçons tirées de l'exploitation d'une infrastructure de production. Écrites par les personnes qui en prennent soin.
Les archives
Plus d'articles de l'équipe.
Un modèle 70B tient vraiment sur une carte de 48GB, une fois qu'on a compté ce que coûte la quantification.
Deux équipes échouent au dimensionnement GPU dans des directions opposées : l'une tressaille devant la carte de 80GB et abandonne le projet. L'autre entasse tout dans le GPU le moins cher et perd une qualité qu'elle n'a jamais mesurée. La même conversation manque. L'arithmétique de la VRAM que chacun peut vérifier, ce que chaque classe de carte sert honnêtement, et ce que la quantification coûte vraiment, montré pour que vous décidiez.
Pourquoi votre VM n'a pas de swap
Les VM que nous construisons sont livrées sans swap. La pagination sur flash rend un manque de mémoire plus lent à apparaître et plus cher à servir, et la solution est celle de toujours : de la RAM.
Quitter l'API tient en une ligne de code.
Des équipes restent sur des API d'IA hébergées longtemps après avoir voulu en partir, parce que quelqu'un a prononcé la phrase qui clôt la réunion : nous sommes trop intégrés, ce serait une réécriture. Pour l'infrastructure en dessous, la réécriture n'existe pas. Le monde du serving s'est standardisé sur un format de communication, et le endpoint privé que nous livrons le parle nativement. Votre SDK ne sait pas qu'il a déménagé.
Votre fournisseur d'IA vous limite le jour de votre meilleure journée.
Tout développeur sur une API d'IA hébergée a rencontré le trio : le 429, l'erreur de capacité indisponible, la latence qui s'étire au pic. Ils se concentrent sur vos plus grandes journées parce que c'est là que les plus grandes journées de tout le monde se percutent. Ce n'est pas de la malchance. C'est le plan de table, et vous ne contrôlez pas votre place.
Ce que le mot SSD cache du stockage de votre hébergeur
Les trois architectures qui se cachent derrière le mot SSD, ce qu'une baie all-flash dédiée vous apporte réellement, et les cinq questions qui obtiennent une réponse honnête sur le stockage de n'importe quel hébergeur.
Redondant, selon qui ?
Le « réseau entièrement redondant » est une case cochée qui ne veut rien dire tant que celui qui le revendique ne contrôle pas le failover, et un locataire sur la dorsale de quelqu'un d'autre n'est redondant que sur autorisation. Contrairement à un chiffre d'uptime, ceci se vérifie soi-même sur la table de routage publique. Voici comment la lire, pour l'hébergeur que vous avez aujourd'hui et pour celui que vous évaluez.
Votre réseau ne vous appartient pas, et c'est votre vrai lock-in.
La plupart des hébergeurs louent leur backbone et le revendent comme le leur. Posez une question avant de signer : à qui appartient l'AS sur lequel voyage votre trafic ?
Dix tickets de support en dix ans : voilà à quoi ressemble une infrastructure ennuyeuse.
Un éditeur de presse national est chez nous depuis dix ans et a ouvert une dizaine de tickets, soirées électorales comprises. Voici comment l'infrastructure ennuyeuse se conçoit, au lieu d'arriver par hasard.
Comment nous préparons un site d'actualité à un pic de trafic.
Le trafic trouve le plafond que la configuration fixe. Préparer un site d'actualité à sa meilleure journée est surtout du calcul et de la lecture des bons chiffres, pas de l'achat de matériel. Voici la méthode.
Pourquoi vos e-mails finissent dans les spams (et ce que cela dit de votre hébergeur).
Les serveurs de réception notent votre IP d'envoi, son reverse DNS et la réputation de ses voisins avant de lire un seul mot de votre contenu. La moitié de cette note, vous l'héritez de votre hébergeur. Voici la moitié que vous contrôlez, dans le bon ordre, et la moitié qu'il faut vérifier avant de vous inscrire où que ce soit.
Nous avons des avis tranchés sur le matériel, pour que vous n'ayez pas à en avoir.
Un long configurateur, c'est des devoirs à la maison. Nous avons tranché le stockage, le réseau et le calcul une fois, délibérément. Voici nos choix, et pourquoi.
Les frais d'egress existent pour faire paraître le départ plus cher que le maintien.
Les données entrent gratuitement chez un hyperscaler et paient pour sortir. Quatre lignes de votre dernière facture montrent si ce compteur est vraiment l'obstacle.
Pourquoi votre nouveau serveur paraît plus lent que l'ancien, sans l'être.
Une question fréquente après une migration est de savoir si un bogomips plus bas signifie un serveur plus lent. Non : le bogomips ne mesure rien que vous voudriez acheter. Voici comment le prouver avec le vrai travail.
Votre trafic de DR voyage sur l'Internet public.
Chaque revue de conformité demande où vivent vos données. Presque aucune ne demande sur quoi elles voyagent entre les sites : réplication, synchronisation de DR, trafic de failover. Certains fournisseurs envoient la réplication à travers l'Internet public. La nôtre voyage sur un maillage IPsec permanent entre nos datacenters, par défaut, parce que le réseau nous appartient aux deux bouts.
Votre endpoint d'IA n'a pas besoin d'être sur internet.
Le schéma d'architecture habituel place le modèle derrière une URL publique et y accroche une icône de cadenas. Personne ne pose la question qui précède : pourquoi l'endpoint est-il sur internet tout court ? Vos documents sont privés, votre application est privée, la machine est à vous seul. Le tronçon public existe par défaut, pas par nécessité, et une exposition facultative doit être refusée.
Un assistant de connaissances qui ne quitte jamais vos murs.
La fonctionnalité d'IA d'entreprise la plus demandée est un assistant qui répond à partir de vos propres contrats, tickets et wikis. L'obstacle est toujours le même : ces documents ne peuvent pas aller vers une API tierce. Ils n'ont pas à y aller. Toute la chaîne tourne sur un serveur GPU mono-locataire, et rien ne le quitte, y compris la partie que tout le monde oublie : la base de données vectorielle, qui est en pratique votre entreprise, encodée.
Le compteur sur votre disque, et la baie qui n'en a pas
Sur un volume loué, les IOPS provisionnés sont facturés à l'allocation. Voici à quoi ressemble le même disque quand la baie all-flash en dessous est la vôtre.
Un vrai VPC est une propriété du matériel, pas une ligne dans la base de données de quelqu'un d'autre.
Isolation par locataire sur un fabric leaf-spine, résilience multi-homed et un mesh chiffré entre les datacenters : ce que « réseau privé » veut dire quand ce n'est pas une case à cocher dans la console de quelqu'un d'autre.
Comment nous prouvons que la porte est fermée avant le go-live.
Avant qu'un site passe en production, nous attaquons le vrai origin depuis une machine que notre propre firewall n'a jamais appris à connaître, nous scannons les 65 535 ports et nous confirmons que la porte est fermée comme la verrait un attaquant : connection refused, pas une page de login.
Qu'est-ce qu'un virtual data center (vDC), et quand est-ce le bon choix
Un virtual data center donne à une organisation son propre pool de calcul, de mémoire, de stockage et de réseau, géré comme un tout, et la liberté d'y créer ce dont elle a besoin. Ce qu'est un vDC, comment il se compare aux alternatives, et comment nous le livrons.
Configurer WordPress Multisite avec nginx et PHP-FPM sur RHEL 9 et 10
Une installation complète et fonctionnelle de WordPress Multisite sur nginx et PHP-FPM sous Red Hat Enterprise Linux 9 et 10 et les systèmes compatibles : paquets, pool PHP-FPM, server blocks nginx pour les réseaux en sous-répertoires et en sous-domaines, TLS, SELinux, firewalld, wp-config.php et vérification.
Les plus lus
Les guides vers lesquels les lecteurs reviennent- 0110 raisons pour lesquelles votre site se charge lentement (et comment les corriger)
- 02Les fichiers de logs Linux que vous devez surveiller sur RHEL 9 et 10
- 03Configurer WordPress Multisite avec nginx et PHP-FPM sur RHEL 9 et 10
- 04Archimède et la poulie composée : comment un homme a mû un navire
- 05Guide complet des codes d'état HTTP : série 300
- 06Guide complet des codes d'état HTTP : série 400
- 07Combien de RAM, de CPU, d'espace et d'IOPS votre VPS a-t-il vraiment besoin ?
Mettez la lecture en pratique
Vous avez une charge de travail en tête ?
Commencez par les chiffres.
Les assistants de dimensionnement transforment vos exigences en configuration proposée et en fourchette de prix indicative. Un ingénieur peut vous aider à vérifier ce qui convient.
