Cianplan

Nivel 5: Sistemas de IA / LLM · L5.8 IA generativa en AWS: Bedrock en la práctica (AIP-C01)

Costo, rendimiento y gobierno de la IA generativa en AWS

Bajar el costo por token y la latencia con la elección de modelo, prompt caching, enrutamiento, batch y streaming, y montar gobierno de prompts, model cards y rastros de auditoría.

13 min · Pro

Lo que te llevas

  • Mide primero los tokens por petición; un prefijo largo y compartido suele ser la línea más grande de la factura, y el prompt caching es la palanca para eso.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

  1. El problema
  2. Releer el reglamento en cada orden
  3. Las palancas, vistas desde L5.4
  4. La escalera de personalización
  5. Gobierno que puedes mostrar
  6. Ejemplo resuelto
  7. Capa de modelos de Bedrock
  8. Knowledge Bases
  9. Agentes
  10. Guardrails y protección de datos
  11. Evaluación y monitoreo
  12. Datos para los modelos
  13. Prompts y flows
  14. Asistentes en 2026
  15. Sesgo y deriva
  16. Personalizar un modelo
  17. Costo, rendimiento, gobierno
  18. Comprueba lo que entendiste
  19. Antes de agendar el AIP-C01