El blog de EuroVPS
Notas de campo.
Desde la sala de máquinas.
Decisiones, investigaciones y lecciones de operar infraestructura de producción. Escritas por las personas que la cuidan.
El archivo
Más del equipo.
Un modelo 70B cabe de verdad en una tarjeta de 48GB, una vez que cuenta lo que cuesta la cuantización.
Dos equipos fracasan al dimensionar GPU en direcciones opuestas: uno se echa atrás ante la tarjeta de 80GB y abandona el proyecto; el otro lo mete todo en la GPU más barata y pierde una calidad que nunca midió. La misma conversación ausente. La aritmética de la VRAM que cualquiera puede comprobar, lo que cada clase de tarjeta sirve con honestidad y lo que cuesta realmente la cuantización, mostrado para que decida usted.
Por qué su VM no tiene swap
Las VM que construimos se entregan sin swap. Paginar a flash hace que una falta de memoria tarde más en verse y cueste más de servir, y la solución es la que ha sido siempre: RAM.
Dejar la API es una línea de código.
Los equipos se quedan en APIs de IA alojadas mucho después de querer irse, porque alguien dijo la frase que termina la reunión: estamos demasiado integrados, sería una reescritura. Para la infraestructura de debajo, la reescritura no existe. El mundo del serving se estandarizó en un wire format, y el endpoint privado que entregamos lo habla de forma nativa. Su SDK no sabe que se ha mudado.
Su proveedor de IA le limita en su mejor día.
Todo desarrollador que usa una API de IA alojada ha conocido el trío: el 429, el error de capacidad no disponible, la latencia que se estira en el pico. Se concentran en sus días más grandes porque es cuando chocan los días más grandes de todos. No es mala suerte. Es el plano de asientos, y usted no controla su asiento.
Lo que la palabra SSD oculta sobre el storage de su proveedor
Las tres arquitecturas que se esconden detrás de la palabra SSD, lo que le aporta realmente una cabina all-flash dedicada, y las cinco preguntas que sacan una respuesta honesta sobre el storage a cualquier proveedor.
Redundante, ¿según quién?
«Red totalmente redundante» es una casilla que no significa nada a menos que quien la marca controle el failover, y un inquilino en el backbone de otro es redundante solo con permiso. A diferencia de una cifra de uptime, esta puede verificarla usted mismo en la tabla de enrutamiento pública. Así se lee, para el proveedor que tiene ahora y para el que está sopesando.
Usted no es dueño de su red, y ese es su verdadero lock-in.
La mayoría de los proveedores alquilan su backbone y lo revenden como propio. Haga una pregunta antes de firmar: ¿de quién es el AS por el que viaja su tráfico?
Diez tickets de soporte en diez años: así es la infraestructura aburrida.
Un medio de noticias nacional lleva diez años con nosotros y ha abierto unos diez tickets, noches electorales incluidas. Así es como se diseña la infraestructura aburrida, en lugar de tropezar con ella.
Cómo preparamos un sitio de noticias para un pico de tráfico.
El tráfico encuentra el techo que fija la configuración, sea cual sea. Preparar un sitio de noticias para su mejor día es, sobre todo, aritmética y leer los números correctos, no comprar hardware. Este es el método.
Por qué su correo acaba en spam (y qué dice de su proveedor de hosting).
Los servidores receptores puntúan su IP de envío, su DNS inverso y la reputación de sus vecinos antes de leer una sola palabra de su contenido. La mitad de esa puntuación la hereda de su proveedor de hosting. Aquí está la mitad que usted controla, en el orden correcto, y la mitad que debería comprobar antes de contratar en cualquier sitio.
Tenemos opiniones sobre el hardware para que usted no tenga que tenerlas.
Un configurador largo son deberes. Tomamos las decisiones de storage, red y cómputo una vez, a propósito. Esto es lo que elegimos, y por qué.
Las tarifas de egress existen para que marcharse parezca más caro que quedarse.
Los datos entran en un hyperscaler gratis y pagan por salir. Cuatro líneas de su última factura muestran si ese contador es de verdad el obstáculo.
Por qué su nuevo servidor da peores benchmarks que el antiguo, sin ser más lento.
Una pregunta habitual tras una migración es si un bogomips más bajo significa un servidor más lento. No lo significa: el bogomips no mide nada que usted quisiera comprar. Así se demuestra con el trabajo real.
Su tráfico de DR viaja por la internet pública.
Toda revisión de cumplimiento pregunta dónde viven sus datos. Casi ninguna pregunta por dónde viajan entre sedes: replicación, sincronización de DR, tráfico de failover. Algunos proveedores envían la replicación por la internet pública. La nuestra viaja por una malla IPsec siempre activa entre nuestros datacenters, por defecto, porque la red es nuestra en ambos extremos.
Su endpoint de IA no tiene por qué estar en internet.
El diagrama de arquitectura habitual pone el modelo detrás de una URL pública y le cuelga un icono de candado. Nadie hace la pregunta anterior: ¿por qué está el endpoint en internet, para empezar? Sus documentos son privados, su aplicación es privada, la máquina es solo suya. El tramo público existe por defecto, no por necesidad, y la exposición opcional debe rechazarse.
Un asistente de conocimiento que nunca sale de su edificio.
La función de IA empresarial más deseada es un asistente que responde a partir de sus propios contratos, tickets y wikis. El bloqueo es siempre el mismo: esos documentos no pueden ir a una API de terceros. No hace falta. Todo el pipeline corre en un solo servidor GPU de un solo inquilino, y nada sale de él, incluida la parte que todo el mundo olvida: la base de datos vectorial, que es en la práctica su empresa, codificada.
El contador de su disco, y la cabina que no tiene ninguno
En un volumen alquilado, las IOPS aprovisionadas se facturan por asignación. Así es como se ve el mismo disco cuando la cabina all-flash que hay debajo es suya.
Una VPC real es una propiedad del hardware, no una fila en la base de datos de otro.
Aislamiento por inquilino en un fabric leaf-spine, resiliencia con multi-homing y una malla cifrada entre centros de datos: lo que significa una red privada cuando no es una casilla en la consola de otro.
Cómo demostramos que la puerta está cerrada antes de la puesta en producción.
Antes de que un sitio salga a producción, atacamos el origen real desde una máquina en la que nunca se dijo a nuestro propio firewall que confiara, escaneamos los 65.535 puertos y confirmamos que la puerta está cerrada tal como la vería un atacante: connection refused, no una página de login.
Qué es un virtual data center (vDC), y cuándo es la opción correcta
Un virtual data center da a una organización su propio pool de cómputo, memoria, storage y red, gestionado como un conjunto, y la libertad de crear dentro de él lo que necesite. Qué es un vDC, cómo se compara con las alternativas y cómo lo entregamos.
Configurar WordPress Multisite con nginx y PHP-FPM en RHEL 9 y 10
Una instalación completa y funcional de WordPress Multisite sobre nginx y PHP-FPM en Red Hat Enterprise Linux 9 y 10 y sistemas compatibles: paquetes, pool de PHP-FPM, server blocks de nginx para redes por subdirectorio y por subdominio, TLS, SELinux, firewalld, wp-config.php y verificación.
Lo más leído
Las guías a las que vuelven los lectores- 0110 motivos por los que su sitio web carga lento (y cómo arreglarlos)
- 02Los archivos de registro de Linux que debe vigilar en RHEL 9 y 10
- 03Configurar WordPress Multisite con nginx y PHP-FPM en RHEL 9 y 10
- 04Arquímedes y el polipasto: cómo un hombre movió un barco
- 05Guía completa de los códigos de estado HTTP: serie 300
- 06Guía completa de los códigos de estado HTTP: serie 400
- 07¿Cuánta RAM, CPU, disco e IOPS necesita realmente su VPS?
Ponga la lectura a trabajar
¿Tiene una carga de trabajo en mente?
Empiece por los números.
Las herramientas de dimensionamiento convierten sus requisitos en una configuración propuesta y un rango de precio indicativo. Un ingeniero puede ayudarle a revisar qué encaja.
