Throttling - це техніка в програмуванні, яка обмежує частоту виконання. Простими словами, ми вказуємо, що код може запускатись не частіше, ніж раз на N мілісекунд. Найкращий спосіб зрозуміти throttling це розібрати приклад.
Throttling в HTTP API
Наприклад, ви розробляєте систему яка працює з багатьма tenants(клієнтами), які можуть обрати собі тарифні плани згідно з своїх потреб в вашому API.
Типова проблема в таких системах це - Noisy Tenants. Уявимо, що клієнт обрав максимальний тарифний план, але частота запитів які він робить настільки велика, що він перебирає на себе значну частину ресурсів. Таким чином інші клієнти мають проблеми з затримкою у відповіді чи проблеми з повільним завантаженням даних.
В такому випадку, використовуючи throttling ви можете вказати, що максимальна частота запитів це 1000 в секунду. Це потенційно розвантажить ваші ресурси і дозволить всім клієнтам повноцінно використовувати систему.