# Transformer 模型架構示意圖 · Yila

> 橫式架構圖，左上是堆疊的編碼器區塊，旁邊兩個面板把多頭注意力拆解到縮放點積核心，右下另放逐位置前饋網路，尺寸適合論文方法章節或課堂講義。

URL: https://yila.ai/zh-TW/templates/transformer-architecture-network-figure

由整體讀到局部：左上的編碼器區塊從輸入嵌入與位置編碼相加開始，經多頭自注意力、相加與正規化進入前饋網路，角落的疊層符號代表堆疊。另兩個面板拆開注意力：查詢、鍵、值各做一次線性投影，進入矩陣乘法、縮放、可選遮罩與正規化，各頭串接後再投影一次；右下把前饋網路展開成兩層線性轉換。

- **編碼器區塊**: 由下而上串起嵌入、注意力、相加與正規化、前饋，右上角以疊層符號標示重複次數。
- **位置編碼入口**: 位置編碼以圓圈加號與輸入嵌入匯合，箭頭必須朝上進入區塊。
- **殘差連接**: 從區塊輸入繞過子層接到相加節點，線型要與主幹不同，並在圖例中說明。
- **多頭注意力面板**: 以錯開的卡片堆疊代表多個頭，最前與最後一張分別標為第一個頭與最後一個頭。
- **查詢、鍵、值投影**: 三條線性投影並排進入注意力，各自標上對應的權重矩陣與維度符號。
- **縮放點積核心**: 矩陣乘法、縮放、可選遮罩與正規化排成一列，最後與值矩陣相乘輸出。
- **串接與輸出投影**: 各頭輸出先串接成一個張量，再經一層線性層，輸出端標上模型維度。
- **逐位置前饋面板**: 兩層線性轉換夾著一個激勵函數，括號內寫出可選的激勵函數類型。

- 論文機制圖, 課程講義, 答辯簡報, 實驗室網站

- **正規化放在哪裡要講清楚**: 子層之後正規化與子層之前正規化是兩種常見做法，圖上畫的那一種必須和你的程式碼一致，否則照圖重建模型的人會把區塊接錯。
- **遮罩不是每層都有**: 編碼器的自注意力通常不加因果遮罩；核心裡出現可選遮罩框時，請註明它屬於解碼器或填補遮罩，免得讀者以為每一層都在遮住未來位置。
- **維度符號要前後一致**: 投影、串接與輸出層上的維度符號必須彼此對得上，頭數乘以每個頭的維度應等於模型維度，這個關係最好直接寫在圖說裡。
- **只畫編碼器就要說明**: 圖中只展開了編碼器一側；若你的模型是編碼器－解碼器架構，請補上解碼器與交叉注意力，或在圖說中明確寫出本圖只呈現編碼器。

## FAQ

### 這張圖可以直接放進論文嗎？

建議先當作方法章節的示意草稿。它是 AI 生成的點陣圖，定稿前請對照你的程式碼，核對每個框內的拼字、箭頭方向與維度符號，並在對話中刪掉重複或多餘的面板。

### 可以修改圖中的元素嗎？

無法逐一編輯元素，但可以在 Yila 中繼續對話修改：補上解碼器與交叉注意力、把正規化移到子層之前、拿掉遮罩框，或只保留編碼器區塊，再依描述產出新的一版。

### 輸出什麼格式？

輸出 AI 生成的 PNG 圖片，橫式構圖，適合方法章節配圖、講義或口試簡報。它不是向量圖，框內小字縮小後容易模糊，請以投稿尺寸檢查一遍。

### 產出需要付費嗎？

瀏覽本頁與查看範例圖不收費；在 Yila 中產出自己的版本會消耗點數。新註冊的帳號會獲得 2,500 點數，足夠依你的模型把層數、注意力面板與前饋部分調整好幾輪。

### 我做的是視覺模型，可以改嗎？

可以。注意力與前饋的骨架不變，把輸入改寫成影像區塊嵌入，要求與你的設定相符的位置編碼，再在區塊外補上分類頭或解碼路徑即可。

### 可以只保留編碼器區塊嗎？

可以，請它只留下左上角的區塊、拿掉注意力與前饋的展開面板。得到的窄圖適合放在投影片或講義一角，內部細節則交給內文說明。

---

- [Transformer 模型架構示意圖](https://yila.ai/zh-TW/templates/transformer-architecture-network-figure)
- [llms.txt](https://yila.ai/zh-TW/llms.txt)
