تخيّل الانتباه الذاتي على هيئة أشعة ضوء بين الرموز، واستشعر كيف يقرر softmax(QKᵀ/√dk) أي كلمة تنظر إليها كلمة "it".
ترجمة آلية من الأصل الإنجليزي. فتح الأصل الإنجليزي
تطفو سبع كلمات كأقواس من الضوء. في كل مرة تنتقل فيها نقطة النظر من كلمة إلى أخرى، تظهر الجهة التي «تنظر» إليها تلك الكلمة في الجملة على شكل حزمة من الضوء. راقب أولًا التدفق وتأكد من أن شكل الضوء يتغير من كلمة إلى أخرى.
راقب المسح وابحث عن الفرق بين الكلمات التي يتركز فيها الضوء والكلمات التي يتشتت فيها.
