(Ken Cen 出品) Generative AI 第 32 部:多模態融合:視覺+語言模型高效推論 (下)

Multi Modal,RoPE,GQA,KVCache,MLP,RMS 歸一化
Udemy
platform
中文
language
Data Science
category
instructor
(Ken Cen 出品) Generative AI 第 32 部:多模態融合:視覺+語言模型高效推論 (下)
45
students
7.5 hours
content
Aug 2025
last update
$19.99
regular price

What you will learn

深入瞭解如何用Pytorch製作 RoPE 旋轉位置編碼

深入瞭解如何用 Pytorch編寫 GQA 分組查詢注意力

深入瞭解如何用 Pytorch 編寫 KVCache & RMS 歸一化 & MLP 多層感知器

深入瞭解為什麼需要殘差連接 & 為什麼Gemma 要設定前置層歸一化 & 為什麼要乘以sqrt(hidden_size)

深入瞭解如何使用Pytorch 實現 PaliGemma 推理過程

Loading charts...

6719573
udemy ID
14/07/2025
course created date
11/08/2025
course indexed date
Bot
course submited by
(Ken Cen 出品) Generative AI 第 32 部:多模態融合:視覺+語言模型高效推論 (下) - | Comidoc