Artık Akış: Katmanlar Boyunca Bir Nehir
Artık akışı, her katmanın okuduğu ve yazdığı parlayan bir nehir olarak görün; dikkat ve MLP kolları özellikler ekler.
İngilizce orijinalinden makine çevirisidir. İngilizce orijinalini aç
Tek bir parıldayan nehir
Bir Transformer'ın her katmanı tek başına hesaplama yapmaz; ortak tek bir akışa, artık akışa okur ve yazar. Burada bunu, girişten çıkışa akan parıldayan bir nehir olarak izliyoruz. Nehir her katmandan geçtiğinde biraz daha bilgi eklenir ve nehir daha da parlar.
Nehrin girişten çıkışa aktığını ve her katmandan geçerken parladığını izleyin.
Stream contents
Özne1.2
Varlık1.0
Zaman0.9
Duygu1.2
attn: bağlamı topla / mlp: çıktıdan önce bitir. Son katman bütünü düzenler ve sıradaki jeton tahminine aktarılan temsili tamamlar.