Episode Details
Back to Episodes
JEPA 是什麼？Yann LeCun 為什麼說 LLM 不夠理解世界
Published 5 months, 1 week ago
Description
JEPA 不是下一個 ChatGPT，而是 Yann LeCun 押注的世界模型路線：它預測 latent representation，避開像素雜訊，試著學會更穩定的世界結構與行動規劃能力的路線。
⭐ 文章深度讀：想把 JEPA 的 latent representation、world model 和防塌陷問題一次串起來，可以看完整文章。
→ https://heymaibao.com/jepa-yann-lecun-world-model/
⚡ 章節重點
JEPA 不是 ChatGPT 殺手 00:00
三種模型到底在預測什麼 01:44
用 view 理解世界狀態 03:48
JEPA 的三個核心元件 04:28
最大的難題是防止 representation collapse 06:00
為什麼 LeCun 押注語言之外 07:28
📝 懶人包
∙ JEPA 的核心，是用一個觀測角度的 embedding，去預測另一個觀測角度的 embedding。
∙ 它想避開的問題，是影像、影片、醫學影像裡有太多低階雜訊，直接預測像素會浪費模型容量。
∙ 它真正難的地方，是 latent space 必須有資訊、夠穩定，還不能 collapse 成一個沒意義的向量。
∙ 我的觀點：LLM 不會因此失效，但 LeCun 對「語言之外的世界模型」提出的批評值得認真聽。
📚 參考資料
What Is Yann LeCun Cooking? JEPA Explained Simply
→ https://www.youtube.com/watch?v=oM4neOyZOi0