# Esquema da arquitetura Transformer com atenção e feed-forward · Yila

> Esquema em paisagem com o bloco codificador empilhado no canto superior esquerdo, dois painéis que abrem a atenção multi-cabeça até o núcleo de produto escalar escalonado e um painel separado com a rede feed-forward por posição no canto inferior direito, no tamanho de uma seção de métodos ou de uma aula.

URL: https://yila.ai/pt/templates/transformer-architecture-network-figure

A figura vai do todo para as partes. O bloco codificador, no alto à esquerda, começa onde o embedding de entrada encontra a codificação posicional e passa pela autoatenção multi-cabeça, por um nó de soma e normalização e pela rede feed-forward, com um sinal de cartões empilhados indicando a repetição. Os painéis de atenção abrem então esse bloco: consultas, chaves e valores recebem cada um sua projeção linear e entram no núcleo de produto escalar escalonado, feito de multiplicação de matrizes, escala, máscara opcional e normalização; em seguida as cabeças são concatenadas e projetadas mais uma vez. O painel inferior direito desdobra a rede feed-forward em duas camadas lineares em torno de uma única ativação, e a hierarquia fica a cargo da espessura das linhas e de uma paleta reduzida.

- **Bloco codificador**: Embedding, atenção, soma e normalização e feed-forward empilhados de baixo para cima, com o sinal de repetição no canto superior do bloco.
- **Entrada da codificação posicional**: A codificação posicional se junta ao embedding de entrada num somador circulado, com a seta subindo para o bloco acima.
- **Conexões residuais**: Linhas que contornam cada subcamada até o seu nó de soma, num traço que a legenda nomeia à parte do tronco principal.
- **Painel multi-cabeça**: Cartões deslocados representando as cabeças, com o primeiro e o último rotulados nas pontas da pilha.
- **Projeções de consulta, chave e valor**: Três projeções lineares lado a lado, cada uma com sua matriz de pesos e o símbolo de dimensão correspondente.
- **Núcleo de produto escalar escalonado**: Multiplicação de matrizes, escala, máscara opcional e normalização numa só coluna, terminando no produto com os valores.
- **Concatenação e projeção**: As saídas das cabeças reunidas num único tensor e depois uma camada linear final rotulada com a dimensão do modelo.
- **Painel feed-forward**: Duas camadas lineares em torno de uma única ativação, com as opções de ativação entre colchetes ao lado da caixa.

- Figura de mecanismo para artigo, Material de aula, Slides de defesa, Site do laboratório

- **Posição da normalização**: Normalizar depois da subcamada ou antes dela são escolhas comuns, e a que o esquema desenhar tem de coincidir com o seu código; do contrário, quem reconstruir o modelo a partir da figura monta o bloco errado.
- **A máscara não é automática**: A autoatenção do codificador em geral não leva máscara causal; se a caixa de máscara opcional aparece no núcleo, anote que ela pertence ao decodificador ou ao preenchimento, e não que esconde posições futuras em toda camada.
- **Dimensões coerentes**: Os símbolos nas projeções, na concatenação e na camada de saída precisam concordar, com o número de cabeças vezes a largura por cabeça igual à dimensão do modelo, relação que vale escrever na legenda.
- **Diga o que ficou de fora**: Só o lado do codificador está desdobrado; acrescente o decodificador e sua atenção cruzada para um modelo codificador-decodificador, ou declare na legenda que a figura mostra apenas o codificador.

## FAQ

### Dá para usar o esquema direto no artigo?

Use-o como rascunho para a seção de métodos. É uma imagem raster gerada por IA: confira a grafia dentro de cada caixa, o sentido de cada seta e os símbolos de dimensão em relação ao seu código, e peça no chat para retirar painéis duplicados ou sobrando antes de considerar a figura final.

### Os blocos do diagrama podem ser alterados?

Não bloco a bloco, mas dá para continuar ajustando na conversa com a Yila: acrescentar o decodificador e a atenção cruzada, levar a normalização para antes de cada subcamada, tirar a caixa de máscara ou deixar só o bloco codificador, e então gerar outra versão a partir dessa descrição.

### Em que formato sai a imagem?

Uma imagem PNG gerada por IA, em paisagem, adequada a figura de métodos, apostila ou slide de defesa. Não é gráfico vetorial, então o texto miúdo dentro das caixas perde nitidez quando a figura é reduzida e deve ser conferido no tamanho de submissão.

### Preciso pagar para usar?

Navegar nesta página e ver o exemplo é gratuito. Gerar a sua versão na Yila consome créditos, e uma conta nova recebe 2.500 créditos, o bastante para ajustar a profundidade, os painéis de atenção e o bloco feed-forward em várias rodadas.

### Trabalho com modelos de visão. Dá para adaptar?

Dá. Atenção e feed-forward mantêm a forma; descreva a entrada como embeddings de patches, peça a codificação posicional que corresponde ao seu caso e acrescente a cabeça de classificação ou o caminho de decodificação fora do bloco.

### Posso ficar só com o bloco codificador?

Peça o bloco do canto superior esquerdo sozinho, sem os painéis de atenção e feed-forward. O resultado estreito cabe num canto de slide ou de apostila em que os detalhes internos são explicados no texto.

---

- [Esquema da arquitetura Transformer com atenção e feed-forward](https://yila.ai/pt/templates/transformer-architecture-network-figure)
- [llms.txt](https://yila.ai/pt/llms.txt)
