Observa cómo los logits se convierten en una distribución de probabilidad mediante softmax, se remodelan con la temperatura, y colapsan en una sola palabra muestreada.
Traducido automáticamente del original en inglés. Abrir original en inglés
Para la continuación de «Once upon a ___», el modelo genera una puntuación (un logit) para cada palabra de su vocabulario. Aquí alineamos solo a los candidatos principales como pilares de luz. La altura de cada pilar es su logit. Puedes ver que «time» destaca sobre el resto.
Observa la altura de los pilares y averigua qué palabra tiene el logit más destacado.
Nitidez (entropía) 19%. El 0% es un punto único; el 100% es una distribución uniforme.
