# แผนภาพสถาปัตยกรรม Transformer แบบมินิมอล · Yila

> แผนภาพแนวนอนที่วางบล็อกตัวเข้ารหัสแบบซ้อนชั้นไว้มุมซ้ายบน มีสองแผงที่เปิด multi-head attention ลงไปถึงแกน scaled dot-product และแผงฟีดฟอร์เวิร์ดรายตำแหน่งแยกไว้มุมขวาล่าง ขนาดเหมาะกับส่วนวิธีการของบทความหรือการบรรยาย

URL: https://yila.ai/th/templates/transformer-architecture-network-figure

ภาพพาอ่านจากภาพรวมไปสู่รายละเอียด บล็อกตัวเข้ารหัสที่มุมซ้ายบนเริ่มจากจุดที่เอ็มเบดดิงอินพุตรวมกับการเข้ารหัสตำแหน่ง ผ่าน self-attention แบบหลายหัว โหนดบวกและนอร์มัลไลซ์ แล้วเข้าเครือข่ายฟีดฟอร์เวิร์ด โดยมีเครื่องหมายการ์ดซ้อนบอกการทำซ้ำ จากนั้นแผงแอตเทนชันเปิดบล็อกนั้นออก คิวรี คีย์ และแวลูต่างผ่านการฉายเชิงเส้นของตัวเอง แล้วเข้าแกน scaled dot-product ที่ประกอบด้วยการคูณเมทริกซ์ การสเกล มาสก์ที่เลือกใส่ได้ และการนอร์มัลไลซ์ หลังจากนั้นผลของทุกหัวถูกต่อกันและฉายอีกครั้ง แผงมุมขวาล่างคลี่ฟีดฟอร์เวิร์ดเป็นชั้นเชิงเส้นสองชั้นที่คั่นด้วยฟังก์ชันกระตุ้นหนึ่งตัว ลำดับชั้นของข้อมูลจึงอาศัยความหนาของเส้นและสีไม่กี่สี

- **บล็อกตัวเข้ารหัส**: เอ็มเบดดิง แอตเทนชัน บวกและนอร์มัลไลซ์ และฟีดฟอร์เวิร์ด เรียงจากล่างขึ้นบน โดยวางเครื่องหมายการทำซ้ำไว้ที่มุมบนของบล็อก
- **จุดเข้าของการเข้ารหัสตำแหน่ง**: การเข้ารหัสตำแหน่งรวมกับเอ็มเบดดิงอินพุตที่วงกลมเครื่องหมายบวก ลูกศรต้องชี้ขึ้นเข้าสู่บล็อกด้านบน
- **การเชื่อมต่อแบบ residual**: เส้นที่ข้ามแต่ละชั้นย่อยไปยังโหนดบวกของมัน วาดด้วยลายเส้นที่คำอธิบายสัญลักษณ์แยกไว้จากเส้นหลัก
- **แผงแอตเทนชันหลายหัว**: การ์ดที่วางเหลื่อมกันแทนแต่ละหัว ติดป้ายการ์ดใบแรกและใบสุดท้ายไว้ที่สองปลายของกอง
- **การฉายคิวรี คีย์ และแวลู**: การฉายเชิงเส้นสามเส้นวางเคียงกัน แต่ละเส้นมีเมทริกซ์น้ำหนักและสัญลักษณ์มิติของตัวเอง
- **แกน scaled dot-product**: การคูณเมทริกซ์ การสเกล มาสก์ที่เลือกใส่ได้ และการนอร์มัลไลซ์อยู่ในคอลัมน์เดียว ปิดท้ายด้วยการคูณกับแวลู
- **การต่อกันและการฉายผลลัพธ์**: ผลจากทุกหัวรวมเป็นเทนเซอร์เดียว แล้วผ่านชั้นเชิงเส้นสุดท้ายที่ติดป้ายมิติของโมเดล
- **แผงฟีดฟอร์เวิร์ด**: ชั้นเชิงเส้นสองชั้นล้อมฟังก์ชันกระตุ้นหนึ่งตัว และระบุตัวเลือกฟังก์ชันกระตุ้นไว้ในวงเล็บข้างกล่อง

- ภาพกลไกในบทความวิจัย, เอกสารประกอบการสอน, สไลด์สอบป้องกัน, เว็บไซต์ห้องปฏิบัติการ

- **บอกให้ชัดว่านอร์มัลไลซ์อยู่ตรงไหน**: การนอร์มัลไลซ์หลังชั้นย่อยและก่อนชั้นย่อยเป็นทางเลือกที่พบบ่อยทั้งคู่ แบบที่ภาพวาดต้องตรงกับโค้ดของคุณ มิฉะนั้นผู้ที่สร้างโมเดลตามภาพจะประกอบบล็อกผิด
- **มาสก์ไม่ได้เปิดเองโดยอัตโนมัติ**: self-attention ของตัวเข้ารหัสโดยทั่วไปไม่มีมาสก์เชิงเหตุ เมื่อกล่องมาสก์ปรากฏในแกน ให้ระบุว่าเป็นของตัวถอดรหัสหรือของ padding ไม่ใช่การปิดตำแหน่งในอนาคตทุกชั้น
- **สัญลักษณ์มิติต้องสอดคล้องกัน**: สัญลักษณ์บนการฉาย บนการต่อกัน และบนชั้นผลลัพธ์ต้องตรงกันทั้งหมด จำนวนหัวคูณความกว้างต่อหัวต้องเท่ากับมิติของโมเดล ความสัมพันธ์นี้ควรเขียนไว้ในคำบรรยายภาพ
- **บอกสิ่งที่ไม่ได้วาด**: ภาพนี้คลี่เฉพาะฝั่งตัวเข้ารหัส หากเป็นโมเดลแบบตัวเข้ารหัสและตัวถอดรหัส ให้เพิ่มตัวถอดรหัสกับ cross-attention หรือเขียนชัดในคำบรรยายภาพว่าแสดงเพียงตัวเข้ารหัส

## FAQ

### ใส่ภาพนี้ลงบทความได้เลยหรือเปล่า

ใช้เป็นร่างสำหรับส่วนวิธีการ ภาพนี้เป็นภาพแรสเตอร์ที่สร้างด้วย AI จึงต้องตรวจตัวสะกดในทุกกล่อง ทิศของลูกศร และสัญลักษณ์มิติเทียบกับโค้ดของคุณ และขอให้ลบแผงที่ซ้ำหรือเกินในแชตก่อนถือว่าเป็นฉบับสุดท้าย

### แก้องค์ประกอบในภาพได้ไหม

แก้ทีละองค์ประกอบไม่ได้ แต่แชตใน Yila เพื่อปรับต่อได้ เช่น เพิ่มตัวถอดรหัสกับ cross-attention ย้ายการนอร์มัลไลซ์ไปไว้ก่อนชั้นย่อย ตัดกล่องมาสก์ หรือเก็บไว้เฉพาะบล็อกตัวเข้ารหัส แล้วสร้างเวอร์ชันใหม่จากคำอธิบายนั้น

### ได้ไฟล์รูปแบบใด

ภาพ PNG ที่สร้างด้วย AI ในแนวนอน เหมาะกับภาพในส่วนวิธีการ เอกสารประกอบการสอน หรือสไลด์สอบป้องกัน ภาพนี้ไม่ใช่กราฟิกเวกเตอร์ ตัวอักษรเล็กในกล่องจะเบลอเมื่อย่อภาพ จึงควรตรวจที่ขนาดตอนส่งบทความ

### ต้องเสียเงินไหม

การเปิดดูหน้านี้และภาพตัวอย่างไม่มีค่าใช้จ่าย การสร้างเวอร์ชันของคุณใน Yila จะใช้เครดิต บัญชีใหม่ได้รับ 2,500 เครดิต พอสำหรับปรับความลึก แผงแอตเทนชัน และบล็อกฟีดฟอร์เวิร์ดหลายรอบ

### งานของฉันเป็นโมเดลด้านภาพ ปรับได้ไหม

ได้ แอตเทนชันและฟีดฟอร์เวิร์ดคงรูปเดิม ให้อธิบายอินพุตเป็นเอ็มเบดดิงของแพตช์ภาพ ขอการเข้ารหัสตำแหน่งที่ตรงกับการตั้งค่าของคุณ และเพิ่มส่วนหัวจำแนกประเภทหรือเส้นทางการถอดรหัสไว้นอกบล็อก

### ขอเฉพาะบล็อกตัวเข้ารหัสได้ไหม

ขอให้เหลือเพียงบล็อกที่มุมซ้ายบนโดยไม่มีแผงแอตเทนชันและฟีดฟอร์เวิร์ด ภาพแคบที่ได้จะวางไว้มุมหนึ่งของสไลด์หรือเอกสารการสอนได้ แล้วอธิบายโครงสร้างภายในไว้ในเนื้อความแทน

---

- [แผนภาพสถาปัตยกรรม Transformer แบบมินิมอล](https://yila.ai/th/templates/transformer-architecture-network-figure)
- [llms.txt](https://yila.ai/th/llms.txt)
