Obserwuj, jak logits zamieniają się w rozkład prawdopodobieństwa dzięki softmax, zmieniają kształt pod wpływem temperatury i zapadają się do jednego wylosowanego słowa.
Przetłumaczone maszynowo z oryginału w języku angielskim. Otwórz oryginał w języku angielskim
Dla kontynuacji „Once upon a ___” model generuje wynik (wartość logits) dla każdego słowa w swoim słowniku. Tutaj ustawiamy w rzędzie jedynie czołowych kandydatów jako filary światła. Wysokość każdego filaru to jego wartość logits. Widać, że słowo „time” wyraźnie wybija się ponad resztę.
Przyjrzyj się wysokościom filarów i znajdź słowo, którego wartość logits się wyróżnia.
Ostrość (entropia) 19%. 0% to pojedynczy punkt, 100% to rozkład jednostajny.
