Cianplan

Nivel 5: Sistemas de IA / LLM · L5.6 Evals y guardrails

Prompt injection

Explicar la inyección directa e indirecta y por qué es difícil de arreglar.

12 min · Pro

Lo que te llevas

  • Las instrucciones y los datos le llegan al modelo por el mismo canal, sin una banda privilegiada, así que no existe un prompt parametrizado como sí existe una consulta parametrizada.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

  1. El problema
  2. Una señal de tránsito falsa en el camino
  3. Por qué esto no es un problema de prompt engineering
  4. Comprueba lo que entendiste