Visualizza il self-attention come fasci di luce tra i token e percepisci come softmax(QKᵀ/√dk) decide quale parola sta osservando "it".
Tradotto automaticamente dall’originale in inglese. Apri l’originale in inglese
Sette parole fluttuano come archi di luce. Ogni volta che il punto di vista si sposta da una parola all’altra, dove quella parola "guarda" nella frase appare come un fascio di luce. Osserva prima il flusso e conferma che la forma della luce cambia da parola a parola.
Osserva la carrellata e trova la differenza tra le parole dove la luce si concentra e quelle dove si disperde.