Problema #

Un utente segnala di utilizzare Relianoid per il bilanciamento del carico con persistenza di sessione basata sull'inserimento di cookie. Inizialmente, la configurazione era perfettamente bilanciata con cinque server. Tuttavia, dopo aver aggiunto un nuovo server al pool, le sessioni non vengono distribuite come previsto. Il nuovo server ha solo poche sessioni, mentre i server esistenti continuano a gestire la maggior parte del traffico.

Spiegazione #

Questo problema si verifica a causa dell'attuale meccanismo di persistenza della sessione e dell'algoritmo di bilanciamento del carico in uso.

Capire il problema #

1. Persistenza della sessione basata sull'inserimento dei cookie: Quando si utilizza l'inserimento di cookie per la persistenza della sessione, il bilanciatore del carico assegna un cookie univoco a ciascun client. Questo cookie indirizza le richieste successive dallo stesso client allo stesso server backend, assicurando la persistenza della sessione. Ciò funziona bene in una configurazione stabile, ma crea difficoltà quando un nuovo server viene aggiunto al pool.

2. Le sessioni esistenti sono "fisse": Poiché le sessioni sono già stabilite con il set iniziale di server, queste sessioni esistenti rimangono "sticky" sui loro backend originali a causa del cookie di persistenza. Di conseguenza, il server appena aggiunto riceve solo nuove sessioni o traffico da nuovi client a cui non è ancora stato assegnato un cookie di persistenza.

3. Limitazioni dell'algoritmo di pianificazione attuale: Molti bilanciatori di carico utilizzano un algoritmo di pianificazione predefinito come Round Robin o Least Response Time. Questi algoritmi non ribilanciano necessariamente il carico quando vengono aggiunti nuovi server, specialmente quando è coinvolta la persistenza della sessione. Questo perché gli algoritmi tendono a mantenere le connessioni ai backend esistenti per le sessioni attive.

Perché le sessioni non vengono ribilanciate #

Quando viene aggiunto un nuovo server, non inizia immediatamente a condividere equamente il carico perché:

• Le sessioni esistenti sono vincolate ai loro backend originali.
• L'algoritmo di pianificazione predefinito non dà priorità ai backend con meno sessioni o connessioni.

Per ottenere una distribuzione equa delle sessioni, è necessario un diverso algoritmo di bilanciamento del carico.

Soluzione #

Utilizzare l'algoritmo di pianificazione "Minimo numero di connessioni" #

L'algoritmo Least Connections è un metodo di pianificazione in cui il bilanciatore del carico seleziona il server backend con il minor numero di connessioni attive. Questo approccio aiuta a distribuire le sessioni in modo più uniforme, soprattutto quando un nuovo server viene aggiunto al pool.

Ecco perché "Least Connections" funziona efficacemente in questo scenario:

• Dynamic Rebalancing: a differenza di algoritmi come Round Robin, Least Connections valuta costantemente quale server ha il minor numero di sessioni attive. Ciò consente al nuovo server, che inizialmente ha meno sessioni, di ricevere più nuove connessioni finché il carico non si stabilizza.
• Migliore utilizzo delle risorse: man mano che vengono create nuove sessioni, queste verranno indirizzate al server con il carico minore, migliorando l'utilizzo complessivo delle risorse.

Passaggi per implementare l'algoritmo "Minime connessioni" in Relianoid #

1. Accedi alla configurazione del bilanciatore del carico Relianoid: Accedi alla console di amministrazione di Relianoid o utilizza gli strumenti CLI, se applicabile.
2. Vai alle impostazioni del bilanciatore del carico: Individua le impostazioni per l'istanza del bilanciatore del carico che gestisce il pool di server con persistenza della sessione.
3. Modificare l'algoritmo di pianificazione:

• Trova l'impostazione per l'algoritmo di bilanciamento del carico o il metodo di pianificazione.
• Cambia l'algoritmo dall'impostazione corrente (ad esempio, Round Robin) a Least Connections.

4. Salva e applica modifiche: Assicurati di salvare le modifiche e applicarle alla configurazione del bilanciatore di carico. A seconda dell'ambiente, potrebbe essere necessario riavviare il bilanciatore di carico o eseguire un soft reload.
5. Monitorare e verificare: Dopo aver applicato le modifiche, monitora la distribuzione delle sessioni su tutti i server. Nel tempo, il nuovo server dovrebbe iniziare a ricevere più sessioni, portando a un carico più bilanciato.

Conclusione #

Modificando l'algoritmo di bilanciamento del carico in "Least Connections", ti assicuri che il server appena aggiunto possa recuperare e iniziare a gestire più sessioni. Questo metodo di pianificazione dinamica considera il numero di connessioni attive e distribuisce in modo efficiente il carico, risolvendo il problema di squilibrio causato dalla persistenza della sessione con l'inserimento dei cookie.

Se continui a riscontrare problemi dopo aver implementato questa modifica, prendi in considerazione la possibilità di controllare:

• Stato di integrità e prestazioni del server appena aggiunto.
• La configurazione di altri parametri che potrebbero influire sul bilanciamento del carico (ad esempio, impostazioni di timeout della sessione, durata della persistenza, ecc.).
• Registri a livello di rete o di applicazione per individuare potenziali errori o colli di bottiglia.

Seguendo questi passaggi, puoi ottimizzare la configurazione del bilanciatore del carico per garantire una distribuzione equa e bilanciata delle sessioni su tutti i server del tuo pool.