Cenarios de API em escala

Como pensar uma API sob carga sem cair em resposta genérica de sistemas distribuídos.