Load balancer (bilanciatore di carico)
Un load balancer distribuisce il traffico in ingresso su più server di backend usando algoritmi diversi (round-robin, least connections, IP hash), per massimizzare la disponibilità e impedire che una singola macchina diventi un collo di bottiglia sotto carico elevato.
In pratica
Nginx e HAProxy sono i load balancer open source più diffusi per l'auto-hosting; i cloud pubblici offrono opzioni gestite (AWS ALB, GCP Load Balancing). Gli health check sono la funzione critica: il load balancer deve rilevare quando un server smette di rispondere e rimuovere automaticamente le istanze in avaria dal pool. Senza health check, un'istanza in avaria continua a ricevere il 25% del traffico e degrada una sessione utente su quattro.