Cianplan

Nivel 5: Sistemas de IA / LLM · L5.6 Evals y guardrails

Guardrails en capas

Diseñar filtros de entrada y salida y permisos fuera del modelo.

11 min · Pro

Lo que te llevas

  • Cuatro compuertas (entrada, recuperación, llamada a herramienta, salida), y solo la de la llamada a herramienta cambia lo que es posible; las demás cambian probabilidades.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

  1. El problema
  2. Defensas, y lo que no cubren
  3. Primero el análisis de errores
  4. Jueces
  5. Métricas de RAG
  6. Prompt injection
  7. Guardrails
  8. Comprueba lo que entendiste