Nivel 6: Aplicado: casos, escenarios FDE, simulacros · L6.3 Casos de la era de la IA
Servicio tipo ChatGPT
Diseñar el chat con streaming, el almacenamiento de conversaciones y una capa de GPUs y gateway.
15 min · Pro
Lo que te llevas
- 13M de tokens de salida por segundo en el pico necesitan unos 13,000 aceleradores, así que la flota es el sistema y la factura ronda los $38M al mes.
Y 3 ideas más dentro de la clase, en Pro.
Cómo está armada la clase
- El enunciado
- Requisitos y los números
- El diseño
- Tres decisiones
- El giro
- Comprueba lo que entendiste