Observe os logits se tornarem uma distribuição de probabilidade por meio do softmax, mudarem de forma com a temperatura e colapsarem em uma única palavra amostrada.
Traduzido automaticamente a partir do original em inglês. Abrir original em inglês
Para a continuação de "Once upon a ___", o modelo produz uma pontuação (um logit) para cada palavra do seu vocabulário. Aqui alinhamos apenas os principais candidatos como pilares de luz. A altura de cada pilar é o seu logit. Você pode ver "time" se destacando acima dos demais.
Observe a altura dos pilares e identifique qual palavra tem o logit em destaque.
Nitidez (entropia) 19%. 0% é um único ponto, 100% é uma distribuição uniforme.
