Throttling

O que e

Throttling e controlar o ritmo de uso de um recurso.

Em vez de deixar todo mundo consumir na velocidade máxima, o sistema coloca freio.

Quando importa

Isso importa quando o problema não e só “quem pode ou não pode entrar”.

As vezes o problema e “todo mundo entrou rápido demais”.

Throttling aparece em:

• APIs
• workers
• envio de notificação
• jobs de backfill

Erro comum

O erro clássico e usar throttling e rate limiting como se fossem exatamente a mesma coisa.

Eles sao parentes, mas o foco muda.

Rate limiting normalmente define teto.

Throttling normalmente suaviza o ritmo.

Exemplo curto

Um job precisa reprocessar milhoes de registros.

Sem throttling, ele disputa CPU, I/O e banco com tráfego normal.

Com throttling, ele anda mais devagar e respeita a capacidade disponivel.

Por que ajuda

Throttling protege recurso compartilhado e reduz pico artificial.

Ele e menos sobre proibir e mais sobre não esmagar o sistema.

Nem todo problema de carga pede bloqueio. As vezes pede cadencia.