Cianplan

Nivel 5: Sistemas de IA / LLM · L5.1 Fundamentos de LLMs para arquitectos

Qué hace un LLM, mecánicamente

Explicar la predicción del siguiente token, los tokens y los embeddings.

13 min · Pro

Lo que te llevas

  • Un modelo predice una distribución de probabilidad sobre el siguiente token, elige uno, lo agrega al final y repite: todo lo demás sobre cómo servirlo sale de ese ciclo.

Y 3 ideas más dentro de la clase, en Pro.

Cómo está armada la clase

  1. El problema
  2. La versión simple
  3. Cuatro consecuencias para tener en cuenta al diseñar
  4. Comprueba lo que entendiste