Layer 4 · System Design
Масштабування
Масштабування — це не просто додати більше серверів. Важливо розуміти, де система впирається в обмеження, як правильно розподіляти навантаження і які підходи допомагають рости без втрати продуктивності та стабільності.
Що важливо знати
- Vertical / horizontal scaling: розуміти різницю між збільшенням ресурсів одного інстансу та додаванням нових інстансів. Вміти оцінювати обмеження обох підходів, їхню вартість і вплив на складність системи.
- Балансування навантаження: розуміти роль load balancer-а, основні алгоритми розподілу трафіку, health checks і sticky sessions.
- Stateless сервіси: розуміти, чому stateless компоненти простіше масштабувати горизонтально, де зберігати session/state і які проблеми виникають в statefull системах.
- Реплікація і шардинг: розуміти, як replication допомагає масштабувати читання і підвищувати доступність, а sharding — розподіляти дані та навантаження між вузлами.
- Кешування: розуміти local і distributed cache, TTL, eviction, cache-aside та інші базові патерни. Вміти працювати з invalidation, stale data, cache stampede і ситуаціями, коли кеш лише маскує проблему.
- CDN і edge caching: розуміти, як переносити статичний і частково динамічний контент ближче до користувача, зменшуючи latency і навантаження на origin.
- Autoscaling: розуміти, як система автоматично змінює кількість ресурсів залежно від CPU, memory, RPS, queue depth або інших сигналів.
- Bottlenecks і hotspots: вміти знаходити компоненти, які обмежують throughput усієї системи — database, конкретний partition, popular key, network або зовнішній сервіс. Розуміти, що масштабування одного шару не допоможе, якщо bottleneck знаходиться в іншому.
- Capacity planning: вміти приблизно оцінювати RPS, обсяг даних, bandwidth, storage і кількість потрібних ресурсів. Використовувати ці оцінки для вибору архітектури та перевірки, чи витримає система очікуване навантаження.