Quan sát logits trở thành một phân phối xác suất thông qua softmax, được định hình lại bằng nhiệt độ, và thu gọn thành một từ duy nhất được lấy mẫu.
Được dịch máy từ bản gốc tiếng Anh. Mở bản gốc tiếng Anh
Đối với phần tiếp nối của "Once upon a ___", mô hình tạo ra một điểm số (logit) cho mỗi từ trong từ vựng của nó. Ở đây chúng ta chỉ xếp các ứng viên hàng đầu thành những cột ánh sáng. Chiều cao của mỗi cột chính là logit của nó. Bạn có thể thấy "time" nổi bật hẳn so với phần còn lại.
Hãy nhìn chiều cao của các cột và tìm xem logit của từ nào nổi bật.
Độ sắc nét (entropy) 19%. 0% là một điểm duy nhất, 100% là phân phối đồng đều.