Шпаргалка по Load Balancing (балансировка нагрузки)

Load Balancing (балансировка нагрузки) - это механизм оптимизации работы серверной инфраструктуры, позволяющий равномерно распределять нагрузку, повышать скорость работы и отказоустойчивость системы с помощью различных алгоритмов и инструментов. Разберем ключевые аспекты балансировки нагрузки.

### Что такое Load Balancer?

Load Balancer (балансировщик нагрузки) - это устройство или программное приложение, которое распределяет сетевой или прикладной трафик между несколькими серверами.

Основные задачи (цели):

- Distribute Traffic - распределять трафик;

- Scale Applications - масштабировать приложения;

- Improve Performance - повышать производительность;

- Improve Availability - повышать доступность (обеспечивать бесперебойную работу 24/7).

### Типы балансировщиков нагрузки

Можно выделить следующие категории:

1. По реализации:

- Hardware Load Balancers (аппаратные) - например, Citrix ADC, Cisco.

- Software Load Balancers (программные) - HAProxy, NGINX, Traefik.

- Cloud-Based Load Balancers (облачные) - Amazon ELB, Microsoft Azure Load Balancer.

2. По уровню работы (слою):

- Layer 4 Load Balancers (уровень 4, транспортный) - работают с IP и TCP-портами (LTM, HAProxy, Microsoft Azure).

- Layer 7 Load Balancers (уровень 7, прикладной) - понимают содержимое запросов, могут маршрутизировать по URL (Azure Application Gateway, NGINX).

3. Глобальные решения:

- Global Server Load Balancing (GSLB) - балансировка между серверами в разных географических точках (A10, Radware, Citrix ADC, Cloudflare).

### Алгоритмы балансировки (Load Balancing Algorithms)

Есть 6 основных алгоритмов, показывающих, как именно запросы (req 1, req 2 и т.д.) направляются к сервисам (Service A, B, C):

1. Round Robin - циклическое распределение запросов по очереди.

2. Sticky Round Robin - "прилипание" сессии; все запросы от одного пользователя (например, Alice) идут на один и тот же сервер.

3. Weighted Round Robin - взвешенное распределение. Серверам присваиваются веса (например, 0.8, 0.1, 0.1), и нагрузка распределяется пропорционально.

4. IP/URL Hash - хеширование. Запрос направляется на сервер в зависимости от хеша IP-адреса клиента или URL (hash 0, 1, 2).

5. Least Connections - наименьшая загруженность. Новый запрос отправляется на сервер с наименьшим количеством активных соединений (например, 10 соединений против 1000).

6. Least Time - наименьшее время отклика. Выбирается сервер с самым быстрым временем ответа (reap time: 1ms против 100ms).

### Ключевые метрики (Key Metrics)

Для мониторинга эффективности балансировщика используются следующие показатели:

- Traffic Metrics - трафик: количество запросов, общее число соединений.

- Performance Metrics - производительность: время ответа, задержка (latency), пропускная способность (throughput).

- Health Metrics - состояние здоровья: проверки работоспособности серверов, количество неудачных проверок.

- Error Metrics - ошибки: частота HTTP-ошибок, оборванные соединения.

- Load Metrics - нагрузка: использование CPU и памяти, распределение нагрузки.

- Security Metrics - безопасность: время рукопожатия TLS, частота ошибок TLS.

- Availability Metrics - доступность: время безотказной работы (uptime), случаи переключения на резервный сервер (failover events).

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: