Cianplan

Nivel 6: Aplicado: casos, escenarios FDE, simulacros · L6.3 Casos de la era de la IA

Servicio tipo ChatGPT

Diseñar el chat con streaming, el almacenamiento de conversaciones y una capa de GPUs y gateway.

15 min · Pro

Lo que te llevas

  • 13M de tokens de salida por segundo en el pico necesitan unos 13,000 aceleradores, así que la flota es el sistema y la factura ronda los $38M al mes.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

  1. El enunciado
  2. Requisitos y los números
  3. El diseño
  4. Tres decisiones
  5. El giro
  6. Comprueba lo que entendiste