# Schematische Abbildung der Transformer-Architektur · Yila

> Ein Querformat mit dem gestapelten Encoder-Block oben links, zwei Panels, die Multi-Head-Attention bis zum Scaled-Dot-Product-Kern aufschlüsseln, und einem eigenen Panel für das positionsweise Feed-Forward-Netz unten rechts – passend für einen Methodenteil oder eine Vorlesung.

URL: https://yila.ai/de/templates/transformer-architecture-network-figure

Die Abbildung führt vom Ganzen zum Detail. Der Encoder-Block oben links beginnt dort, wo das Input-Embedding auf das Positional Encoding trifft, und durchläuft Multi-Head-Self-Attention, einen Add-&-Norm-Knoten und das Feed-Forward-Netz; ein Kartenstapel markiert die Wiederholung. Die Attention-Panels öffnen diesen Block: Queries, Keys und Values erhalten jeweils eine eigene lineare Projektion und münden in den Scaled-Dot-Product-Kern aus Matrixmultiplikation, Skalierung, optionaler Maske und Normierung; danach werden die Köpfe verkettet und erneut projiziert. Unten rechts zerfällt das Feed-Forward-Netz in zwei lineare Schichten um eine einzige Aktivierung. Die Hierarchie entsteht über Strichstärke und eine kleine Farbpalette.

- **Encoder-Block**: Embedding, Attention, Add & Norm und Feed-Forward von unten nach oben gestapelt; das Wiederholungszeichen sitzt in der oberen Ecke des Blocks.
- **Einspeisung des Positional Encoding**: Das Positional Encoding trifft an einem eingekreisten Summenzeichen auf das Input-Embedding; der Pfeil zeigt nach oben in den Block hinein.
- **Residualverbindungen**: Linien, die jede Teilschicht bis zu ihrem Add-Knoten überbrücken, in einem Strichstil, den die Legende getrennt vom Hauptstrang benennt.
- **Multi-Head-Panel**: Versetzte Karten stehen für die einzelnen Köpfe; die erste und die letzte Karte sind an den beiden Enden des Stapels beschriftet.
- **Projektionen für Query, Key und Value**: Drei lineare Projektionen nebeneinander, jede mit eigener Gewichtsmatrix und dem zugehörigen Dimensionssymbol.
- **Scaled-Dot-Product-Kern**: Matrixmultiplikation, Skalierung, optionale Maske und Normierung in einer Spalte, abgeschlossen durch das Produkt mit den Values.
- **Verkettung und Projektion**: Die Ausgaben der Köpfe werden zu einem Tensor zusammengeführt, gefolgt von einer letzten linearen Schicht mit der Modelldimension als Beschriftung.
- **Feed-Forward-Panel**: Zwei lineare Schichten um eine einzige Aktivierung; die möglichen Aktivierungsfunktionen stehen in Klammern neben dem Kasten.

- Mechanismusabbildung im Paper, Vorlesungsunterlagen, Folien zur Verteidigung, Website der Arbeitsgruppe

- **Position der Normierung festlegen**: Normierung nach der Teilschicht und Normierung davor sind beide verbreitet. Was das Schema zeigt, muss zu Ihrem Code passen – sonst baut jeder, der das Modell anhand der Abbildung nachbaut, den falschen Block.
- **Die Maske ist kein Automatismus**: Self-Attention im Encoder trägt in der Regel keine kausale Maske. Erscheint der optionale Maskenkasten im Kern, vermerken Sie, dass er zum Decoder oder zum Padding gehört und nicht in jeder Schicht künftige Positionen verdeckt.
- **Dimensionen konsistent halten**: Die Symbole an den Projektionen, an der Verkettung und an der Ausgabeschicht müssen zusammenpassen: Anzahl der Köpfe mal Breite pro Kopf ergibt die Modelldimension – ein Zusammenhang, der in die Legende gehört.
- **Benennen, was fehlt**: Aufgeschlüsselt ist nur die Encoder-Seite. Ergänzen Sie für ein Encoder-Decoder-Modell den Decoder samt Cross-Attention, oder schreiben Sie in die Bildunterschrift ausdrücklich, dass nur der Encoder dargestellt ist.

## FAQ

### Kann ich die Abbildung direkt in einem Paper verwenden?

Verstehen Sie sie als Entwurf für den Methodenteil. Es handelt sich um ein KI-generiertes Rasterbild; prüfen Sie daher die Schreibweise in jedem Kasten, die Richtung jedes Pfeils und die Dimensionssymbole gegen Ihren Code, und lassen Sie doppelte oder überzählige Panels im Chat entfernen, bevor Sie die Abbildung als fertig betrachten.

### Lassen sich einzelne Elemente der Abbildung ändern?

Nicht Element für Element, wohl aber im Chat mit Yila: den Decoder mit Cross-Attention ergänzen, die Normierung vor jede Teilschicht ziehen, den Maskenkasten streichen oder nur den Encoder-Block behalten. Aus dieser Beschreibung entsteht dann eine neue Version.

### In welchem Format erhalte ich das Ergebnis?

Als KI-generiertes PNG im Querformat, geeignet für eine Methodenabbildung, ein Vorlesungsskript oder eine Verteidigungsfolie. Eine Vektorgrafik ist es nicht; die kleine Schrift in den Kästen wird beim Verkleinern weicher und sollte in Einreichungsgröße geprüft werden.

### Ist die Nutzung kostenlos?

Das Durchsehen dieser Seite und des Beispielbilds kostet nichts. Eine eigene Version in Yila verbraucht Credits; neue Konten erhalten 2.500 Credits, genug, um Tiefe, Attention-Panels und Feed-Forward-Block über mehrere Runden anzupassen.

### Ich arbeite an Vision-Modellen. Lässt sich das übertragen?

Ja. Attention und Feed-Forward behalten ihre Form; beschreiben Sie die Eingabe als Patch-Embeddings, verlangen Sie das zu Ihrem Aufbau passende Positional Encoding und ergänzen Sie den Klassifikationskopf oder den Decodierpfad außerhalb des Blocks.

### Geht auch nur der Encoder-Block?

Fordern Sie den Block oben links allein an, ohne die Panels für Attention und Feed-Forward. Das schmale Ergebnis passt in eine Ecke einer Folie oder eines Handouts, wenn die Details ohnehin im Text erklärt werden.

---

- [Schematische Abbildung der Transformer-Architektur](https://yila.ai/de/templates/transformer-architecture-network-figure)
- [llms.txt](https://yila.ai/de/llms.txt)
