Das EuroVPS Blog
Notizen aus der Praxis.
Aus dem Maschinenraum.
Entscheidungen, Untersuchungen und Lehren aus dem Betrieb von Produktionsinfrastruktur. Geschrieben von den Menschen, die sich darum kümmern.
Das Archiv
Mehr vom Team.
Ein 70B-Modell passt tatsächlich auf eine 48GB-Karte, sobald Sie zählen, was Quantisierung kostet.
Zwei Teams scheitern an der GPU-Dimensionierung in entgegengesetzte Richtungen: Das eine schreckt vor der 80GB-Karte zurück und legt das Projekt auf Eis. Das andere presst alles in die günstigste GPU und verliert Qualität, die es nie gemessen hat. Dasselbe fehlende Gespräch. Die VRAM-Arithmetik, die jeder nachrechnen kann, was jede Kartenklasse ehrlich bedient, und was Quantisierung wirklich kostet, so gezeigt, dass Sie entscheiden.
Warum Ihre VM kein Swap hat
Die VMs, die wir bauen, werden ohne Swap ausgeliefert. Paging auf Flash macht einen Speichermangel langsamer sichtbar und teurer zu bedienen, und die Lösung ist die, die sie immer war: RAM.
Der Abschied vom API ist eine Zeile Code.
Teams bleiben bei gehosteten KI-APIs, lange nachdem sie weg wollen, weil jemand den Satz gesagt hat, der die Besprechung beendet: Wir sind zu tief integriert, das wäre ein Rewrite. Für die Infrastruktur darunter gibt es dieses Rewrite nicht. Die Serving-Welt hat sich auf ein Wire-Format geeinigt, und der private Endpoint, den wir übergeben, spricht es von Haus aus. Ihr SDK merkt nicht, dass es umgezogen ist.
Ihr KI-Anbieter drosselt Ihren besten Tag.
Jeder Entwickler auf einer gehosteten KI-API kennt das Trio: den 429, den Fehler «Kapazität nicht verfügbar», die Latenz, die sich in der Spitze dehnt. Sie häufen sich an Ihren größten Tagen, weil dann die größten Tage aller zusammenfallen. Das ist kein Pech. Das ist der Sitzplan, und Ihren Platz bestimmen Sie nicht.
Was das Wort SSD über den Storage Ihres Hosters verbirgt
Die drei Architekturen, die sich hinter dem Wort SSD verbergen, was ein dediziertes All-Flash-Array Ihnen tatsächlich bringt, und die fünf Fragen, die jedem Hoster eine ehrliche Antwort zum Storage entlocken.
Redundant, sagt wer?
«Vollständig redundantes Netzwerk» ist eine Checkbox, die nichts bedeutet, solange nicht derjenige, der sie behauptet, das Failover kontrolliert, und ein Mieter auf dem Backbone eines anderen ist nur mit Erlaubnis redundant. Anders als eine Uptime-Zahl können Sie das selbst in der öffentlichen Routing-Tabelle prüfen. So lesen Sie sie, für den Anbieter, den Sie jetzt haben, und den, den Sie abwägen.
Ihr Netzwerk gehört Ihnen nicht, und das ist Ihr echtes Lock-in.
Die meisten Hoster mieten ihr Backbone und verkaufen es als ihr eigenes weiter. Stellen Sie vor der Unterschrift eine Frage: Wem gehört das AS, über das Ihr Traffic läuft?
Zehn Support-Tickets in zehn Jahren: so sieht langweilige Infrastruktur aus.
Ein nationaler Nachrichtenverlag ist seit zehn Jahren bei uns und hat etwa zehn Tickets eröffnet, über Wahlabende hinweg. So wird langweilige Infrastruktur konstruiert, nicht zufällig erreicht.
Wie wir eine Nachrichtenseite auf eine Lastspitze vorbereiten.
Der Verkehr findet jede Obergrenze, die die Konfiguration setzt. Eine Nachrichtenseite auf ihren besten Tag vorzubereiten ist vor allem Rechnen und das Lesen der richtigen Zahlen, kein Hardware-Kauf. Hier ist die Methode.
Warum Ihre E-Mails im Spam landen (und was das über Ihren Hoster sagt).
Empfangende Server bewerten Ihre Absender-IP, deren Reverse DNS und den Ruf ihrer Nachbarn, bevor sie ein Wort Ihres Inhalts lesen. Die Hälfte dieser Bewertung erben Sie von Ihrem Hoster. Hier ist die Hälfte, die Sie kontrollieren, in der richtigen Reihenfolge, und die Hälfte, die Sie prüfen sollten, bevor Sie sich irgendwo anmelden.
Wir haben eine Meinung zur Hardware, damit Sie keine haben müssen.
Ein langer Konfigurator ist Hausaufgabe. Wir haben die Entscheidungen zu Storage, Netzwerk und Compute einmal getroffen, mit Absicht. Das haben wir gewählt, und warum.
Egress-Gebühren gibt es, damit der Ausstieg teurer aussieht als das Bleiben.
Daten kommen kostenlos in einen Hyperscaler hinein und zahlen für den Weg hinaus. Vier Zeilen aus Ihrer letzten Rechnung zeigen, ob dieser Zähler wirklich die Hürde ist.
Warum Ihr neuer Server im Benchmark langsamer misst als der alte, obwohl er es nicht ist.
Eine häufige Frage nach einer Migration ist, ob ein niedrigerer bogomips-Wert einen langsameren Server bedeutet. Tut er nicht: bogomips misst nichts, was Sie kaufen wollen würden. So beweisen Sie es mit der echten Arbeit.
Ihr DR-Traffic pendelt über das öffentliche Internet.
Jede Compliance-Prüfung fragt, wo Ihre Daten liegen. Fast keine fragt, worauf sie zwischen den Standorten reisen: Replikation, DR-Synchronisation, Failover-Traffic. Manche Anbieter schicken die Replikation über das öffentliche Internet. Unsere läuft standardmäßig über ein ständig aktives IPsec-Mesh zwischen unseren Rechenzentren, weil uns das Netzwerk an beiden Enden gehört.
Ihr KI-Endpoint muss nicht im Internet sein.
Das übliche Architekturdiagramm stellt das Modell hinter eine öffentliche URL und hängt ein Vorhängeschloss-Symbol daran. Niemand stellt die vorgelagerte Frage: Warum ist der Endpoint überhaupt im Internet? Ihre Dokumente sind privat, Ihre Anwendung ist privat, die Maschine gehört Ihnen allein. Das öffentliche Teilstück existiert aus Gewohnheit, nicht aus Notwendigkeit, und optionale Exposition sollte man ablehnen.
Ein Wissensassistent, der Ihr Gebäude nie verlässt.
Die meistgewünschte KI-Funktion im Unternehmen ist ein Assistent, der aus Ihren eigenen Verträgen, Tickets und Wikis antwortet. Der Blocker ist immer derselbe: Diese Dokumente dürfen nicht an eine API Dritter gehen. Das müssen sie nicht. Die gesamte Pipeline läuft auf einem Single-Tenant-GPU-Server, und nichts verlässt ihn, auch nicht der Teil, den alle vergessen: die Vektordatenbank, die praktisch Ihr Unternehmen ist, kodiert.
Der Zähler auf Ihrer Festplatte, und das Array ohne Zähler
Auf einem gemieteten Volume werden Provisioned IOPS nach Zuteilung abgerechnet. So sieht dieselbe Festplatte aus, wenn das All-Flash-Array darunter Ihnen gehört.
Ein echtes VPC ist eine Eigenschaft der Hardware, nicht eine Zeile in der Datenbank eines anderen.
Isolation pro Mandant auf einer Leaf-Spine-Fabric, mehrfach angebundene Ausfallsicherheit und ein verschlüsseltes Mesh zwischen den Rechenzentren: was ein privates Netzwerk bedeutet, wenn es keine Checkbox in der Konsole eines anderen ist.
Wie wir vor dem Go-live beweisen, dass die Tür zu ist.
Bevor eine Site live geht, greifen wir den echten Origin von einer Maschine an, der unsere eigene Firewall nie zu vertrauen gelernt hat, scannen alle 65.535 Ports und bestätigen, dass die Tür so zu ist, wie ein Angreifer sie sehen würde: connection refused, nicht eine Login-Seite.
Was ein Virtual Data Center (vDC) ist, und wann es die richtige Wahl ist
Ein Virtual Data Center gibt einer Organisation ihren eigenen Pool aus Rechenleistung, Arbeitsspeicher, Storage und Netzwerk, als Einheit verwaltet, mit der Freiheit, darin anzulegen, was sie braucht. Was ein vDC ist, wie es sich mit den Alternativen vergleicht, und wie wir eines bereitstellen.
WordPress Multisite mit nginx und PHP-FPM auf RHEL 9 und 10 einrichten
Eine vollständige, funktionierende Einrichtung von WordPress Multisite auf nginx und PHP-FPM auf Red Hat Enterprise Linux 9 und 10 und kompatiblen Systemen: Pakete, PHP-FPM-Pool, nginx-Server-Blocks für Subdirectory- und Subdomain-Netzwerke, TLS, SELinux, firewalld, wp-config.php und Verifikation.
Meistgelesen
Die Leitfäden, zu denen Leser zurückkehren- 0110 Gründe, warum Ihre Website langsam lädt (und wie Sie sie beheben)
- 02Wichtige Linux-Logdateien, die Sie auf RHEL 9 und 10 überwachen müssen
- 03WordPress Multisite mit nginx und PHP-FPM auf RHEL 9 und 10 einrichten
- 04Archimedes und der Flaschenzug: wie ein Mann ein Schiff bewegte
- 05Vollständiger Leitfaden zu HTTP-Statuscodes: 300er-Serie
- 06Vollständiger Leitfaden zu HTTP-Statuscodes: 400er-Serie
- 07Wie viel RAM, CPU, Speicher und IOPS braucht Ihr VPS wirklich?
Setzen Sie das Gelesene um
Haben Sie eine Workload im Kopf?
Beginnen Sie mit den Zahlen.
Die Dimensionierungstools machen aus Ihren Anforderungen eine vorgeschlagene Konfiguration und eine unverbindliche Preisspanne. Ein Ingenieur hilft Ihnen zu prüfen, was passt.
