Observar apps de LLM

Lo que te llevas

• Una llamada a un LLM es un span normal con atributos extra: modelo, versión del prompt, tokens de entrada y de salida, finish reason, acierto de caché.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

1. El problema
2. El span del LLM
3. Dos latencias, y una de ellas es un parámetro que tú defines
4. El costo vive por petición, no por llamada
5. El 200 que está mal
6. Tres señales
7. Golden signals, RED, USE
8. Tracing
9. Apps de LLM
10. Comprueba lo que entendiste