แสดงภาพ self-attention เป็นลำแสงระหว่าง token และรู้สึกได้ว่า softmax(QKᵀ/√dk) ตัดสินใจอย่างไรว่าคำว่า “it” กำลังมองคำไหนอยู่
แปลด้วยเครื่องจากต้นฉบับภาษาอังกฤษ เปิดต้นฉบับภาษาอังกฤษ
เจ็ดคำลอยอยู่เป็นส่วนโค้งของแสง ทุกครั้งที่มุมมองเคลื่อนจากคำหนึ่งไปอีกคำ ตำแหน่งที่คำนั้น “มอง” ไปในประโยคจะปรากฏเป็นมัดแสง ก่อนอื่นจับตาดูการไหลแล้วยืนยันว่ารูปทรงของแสงเปลี่ยนไปตามแต่ละคำ
จับตาดูการกวาดผ่านแล้วหาความแตกต่างระหว่างคำที่แสงรวมตัวกับคำที่แสงกระจาย