Visualisasikan self-attention sebagai berkas cahaya di antara token dan rasakan bagaimana softmax(QKᵀ/√dk) menentukan kata apa yang sedang dilihat oleh "it".
Diterjemahkan otomatis dari naskah asli berbahasa Inggris. Buka naskah asli berbahasa Inggris
Tujuh kata melayang sebagai busur cahaya. Setiap kali sudut pandang berpindah dari satu kata ke kata lain, arah "pandangan" kata tersebut dalam kalimat muncul sebagai berkas cahaya. Amati dulu alirannya dan pastikan bentuk cahaya berubah dari kata ke kata.
Amati sapuannya dan temukan perbedaan antara kata yang cahayanya memusat dan kata yang cahayanya menyebar.
