Latencia contra throughput

Lo que te llevas

• La latencia es cuánto tarda una petición; el throughput es cuántas peticiones terminan por segundo. Son perillas distintas.
• Más ancho de banda o más servidores suben el throughput; ninguno acorta la distancia que debe recorrer un paquete.
• Reporta percentiles, no promedios: p50 es el usuario típico, p99 es el que se queja.
• Concurrencia = throughput × latencia, y así conviertes una estimación de tráfico en un número de servidores.

Cómo está armada la clase

1. El problema
2. La versión simple
3. Por qué percentiles, y por qué gana la cola
4. Del tráfico a los servidores
5. Comprueba lo que entendiste