Nivel 5: Sistemas de IA / LLM · L5.6 Evals y guardrails
Prompt injection
Explicar la inyección directa e indirecta y por qué es difícil de arreglar.
12 min · Pro
Lo que te llevas
- Las instrucciones y los datos le llegan al modelo por el mismo canal, sin una banda privilegiada, así que no existe un prompt parametrizado como sí existe una consulta parametrizada.
Y 3 ideas más dentro de la clase, en Pro.
Cómo está armada la clase
- El problema
- Una señal de tránsito falsa en el camino
- Por qué esto no es un problema de prompt engineering
- Comprueba lo que entendiste