# Schéma de l’architecture Transformer : attention et blocs feed-forward · Yila

> Un schéma en paysage avec, en haut à gauche, le bloc encodeur empilé, deux panneaux qui ouvrent l’attention multi-têtes jusqu’à son cœur à produit scalaire mis à l’échelle, et en bas à droite un panneau distinct pour le réseau feed-forward appliqué position par position. Dimensionné pour une section Méthodes ou un cours.

URL: https://yila.ai/fr/templates/transformer-architecture-network-figure

La figure va du tout vers les parties. Le bloc encodeur, en haut à gauche, commence là où le plongement d’entrée rejoint l’encodage positionnel, puis traverse l’auto-attention multi-têtes, un nœud d’addition et normalisation et le réseau feed-forward, avec une marque de cartes empilées pour la répétition. Les panneaux d’attention ouvrent ensuite ce bloc : requêtes, clés et valeurs reçoivent chacune leur projection linéaire et entrent dans le cœur à produit scalaire mis à l’échelle, fait d’un produit matriciel, d’une mise à l’échelle, d’un masque facultatif et d’une normalisation, après quoi les têtes sont concaténées puis projetées une dernière fois. Le panneau en bas à droite déplie le réseau feed-forward en deux couches linéaires autour d’une seule activation ; l’épaisseur des traits et une palette réduite portent la hiérarchie.

- **Bloc encodeur**: Plongement, attention, addition et normalisation puis feed-forward empilés de bas en haut, avec la marque de répétition placée dans l’angle supérieur du bloc.
- **Entrée de l’encodage positionnel**: L’encodage positionnel rejoint le plongement d’entrée par une somme cerclée, la flèche montant vers le bloc situé au-dessus.
- **Connexions résiduelles**: Des lignes qui contournent chaque sous-couche jusqu’à son nœud d’addition, tracées dans un style que la légende distingue du tronc principal.
- **Panneau multi-têtes**: Des cartes décalées figurent les têtes, la première et la dernière étant légendées à chaque extrémité de la pile.
- **Projections des requêtes, clés et valeurs**: Trois projections linéaires côte à côte, chacune avec sa propre matrice de poids et le symbole de dimension qui lui correspond.
- **Cœur à produit scalaire mis à l’échelle**: Produit matriciel, mise à l’échelle, masque facultatif et normalisation dans une même colonne, qui se termine par le produit avec les valeurs.
- **Concaténation et projection**: Les sorties des têtes fusionnées en un seul tenseur, puis une dernière couche linéaire légendée avec la dimension du modèle.
- **Panneau feed-forward**: Deux couches linéaires autour d’une seule activation, les choix d’activation possibles étant indiqués entre crochets à côté de la boîte.

- Figure de mécanisme pour article, Support de cours, Diapositives de soutenance, Site du laboratoire

- **Situer la normalisation**: Normaliser après la sous-couche ou avant elle sont deux choix courants ; celui que dessine le schéma doit correspondre à votre code, sinon quiconque reconstruit le modèle à partir de la figure assemble un bloc erroné.
- **Le masque n’est pas systématique**: L’auto-attention de l’encodeur ne porte généralement pas de masque causal : si la boîte du masque facultatif apparaît dans le cœur, précisez qu’elle concerne le décodeur ou le remplissage, et non le masquage des positions futures dans chaque couche.
- **Des dimensions cohérentes**: Les symboles des projections, de la concaténation et de la couche de sortie doivent concorder : le nombre de têtes multiplié par la largeur de chaque tête égale la dimension du modèle, une relation qu’il vaut la peine d’écrire dans la légende.
- **Dire ce qui est omis**: Seul le côté encodeur est déplié ici : ajoutez le décodeur et son attention croisée pour un modèle encodeur-décodeur, ou indiquez clairement dans la légende que la figure ne montre que l’encodeur.

## FAQ

### Puis-je mettre ce schéma tel quel dans un article ?

Utilisez-le comme ébauche pour la section Méthodes. C’est une image matricielle générée par IA : vérifiez l’orthographe dans chaque boîte, le sens de chaque flèche et les symboles de dimension au regard de votre code, et faites retirer en conversation les panneaux dupliqués ou superflus avant de considérer la figure comme définitive.

### Peut-on modifier les éléments du schéma ?

Pas élément par élément, mais vous pouvez continuer à l’affiner en conversation dans Yila : ajouter le décodeur et son attention croisée, placer la normalisation avant chaque sous-couche, supprimer la boîte du masque ou ne garder que le bloc encodeur, puis générer une nouvelle version à partir de cette description.

### Quel est le format livré ?

Une image PNG générée par IA, en paysage, adaptée à une figure de méthodes, un support de cours ou une diapositive de soutenance. Ce n’est pas un graphique vectoriel : le petit texte des boîtes perd en netteté une fois la figure réduite, vérifiez-le à la taille de soumission.

### Faut-il payer quelque chose ?

Parcourir cette page et voir l’exemple ne coûte rien. Générer votre propre version dans Yila consomme des crédits ; un nouveau compte en reçoit 2 500, assez pour ajuster la profondeur, les panneaux d’attention et le bloc feed-forward sur plusieurs séries.

### Je travaille sur des modèles de vision. Peut-on l’adapter ?

Oui. L’attention et le feed-forward gardent leur forme ; décrivez l’entrée comme des plongements de patchs, demandez l’encodage positionnel qui correspond à votre configuration, et ajoutez hors du bloc la tête de classification ou la voie de décodage.

### Peut-on ne garder que le bloc encodeur ?

Demandez le bloc du coin supérieur gauche seul, sans les panneaux d’attention ni de feed-forward. Le résultat, étroit, se loge dans un coin de diapositive ou de support de cours où le texte explique le fonctionnement interne.

---

- [Schéma de l’architecture Transformer : attention et blocs feed-forward](https://yila.ai/fr/templates/transformer-architecture-network-figure)
- [llms.txt](https://yila.ai/fr/llms.txt)
