रेज़िडुअल स्ट्रीम को एक चमकती नदी के रूप में देखें, जिसे हर परत पढ़ती और लिखती है, जबकि अटेंशन और MLP सहायक धाराएँ फीचर जोड़ती हैं।
अंग्रेज़ी मूल से मशीन-अनुवादित। अंग्रेज़ी मूल खोलें
Transformer की हर परत अकेले गणना नहीं करती — यह एक साझा प्रवाह, यानी residual stream, से पढ़ती और उसमें लिखती है। यहाँ हम इसे इनपुट से आउटपुट तक बहती एक जगमगाती नदी के रूप में देखते हैं। जब भी यह नदी किसी परत से गुज़रती है, थोड़ी और जानकारी जुड़ जाती है और यह और उज्जवल हो जाती है।
नदी को इनपुट से आउटपुट तक बहते हुए देखें, जो हर परत से गुज़रते हुए उज्जवल होती जाती है।
attn: संदर्भ इकट्ठा करना / mlp: आउटपुट से पहले अंतिम रूप देना. अंतिम परत पूरे को व्यवस्थित करती है और अगले-टोकन पूर्वानुमान को सौंपे जाने वाले निरूपण को अंतिम रूप देती है।
