Osserva i logits trasformarsi in una distribuzione di probabilità tramite softmax, cambiare forma con la temperatura, e collassare in un’unica parola campionata.
Tradotto automaticamente dall’originale in inglese. Apri l’originale in inglese
Per la continuazione di "C’era una volta un ___", il modello produce un punteggio (un logit) per ogni parola del suo vocabolario. Qui allineiamo solo i candidati principali come pilastri di luce. L’altezza di ogni pilastro è il suo logit. Puoi vedere "tempo" distinguersi sopra gli altri.
Osserva le altezze dei pilastri e trova la parola il cui logit spicca.
Nitidezza (entropia) 19%. 0% è un unico punto, 100% è una distribuzione uniforme.