Logits’in softmax ile bir olasılık dağılımına dönüşmesini, sıcaklıkla yeniden şekillenmesini ve tek bir örneklenmiş kelimeye çökmesini izleyin.
İngilizce orijinalinden makine çevirisidir. İngilizce orijinalini aç
“Once upon a ___” ifadesinin devamı için model, kelime dağarcığındaki her kelime için bir puan (bir logit) üretir. Burada yalnızca öne çıkan adayları ışık sütunları olarak sıralıyoruz. Her sütunun yüksekliği kendi logit değeridir. “time” kelimesinin diğerlerinin üzerinde öne çıktığını görebilirsiniz.
Sütun yüksekliklerine bakın ve hangi kelimenin logit değerinin öne çıktığını bulun.
Keskinlik (entropi) 19%. 0% tek bir nokta, 100% ise tekdüze bir dağılımdır.
