课程进度 课程大纲 已发布 34/34 课
第 0 部分——先拿到地图
第 1 部分——为什么简单目标会学会看视频
第 2 部分——把一段视频送进单编码器
第 3 部分——会读实验，才算读懂论文
第 4 部分——从官方仓库到自己的实验
第 5 部分——把表征接回世界模型路线
附录——随用随查的技术背包
纸船能漂多远，证据说了算
- 可以说协议内观察
- 要带条件作者报告
- 证据到此下一段还没测
- 继续验证复现与新任务
从浴缸到太平洋差哪些证据
一艘纸船在浴缸里漂得很好，直接结论是“它在这缸水、这份载重下漂起来了”。横渡太平洋还多出风浪、距离和耐久性，这些条件并未出现在浴缸实验里。写清水温、载重和实验者，读者自然知道证据走到了哪里，下一步该测什么。
把一句话缩到实验大小
截至 2026-09-05，LeVJEPA 仍是 arXiv v1，代码和权重也来自作者团队。下面左栏是直接证据，右栏则列出尚未做过、却常被一句话跨过去的实验。
| 主题 | 现有证据直接支持 | 仍缺少的证据 |
|---|---|---|
| 发表状态 | “arXiv v1 作者报告” | “已经同行评审确认”或“已被独立复现” |
| 简化训练图 | 目标中无 target encoder、predictor、stop-gradient；EMA 只作评估权重 | “完全没有 EMA”或把评估 EMA 画成训练教师 |
| 计算效率 | 20% K710、240 epochs 下，作者报告相对 V-JEPA 2 为 5.6–20.8× 更少总预训练 FLOPs | “所有硬件都快 20.8×”“推理也省同样倍数” |
| 因果注意力 | 指定 IN1K frozen probe 中 block causal 为 51.2、full 为 50.7；patch 不读未来 | “所有任务无损”“模型因此懂因果或已经会规划” |
| 运动能力 | FLOP-match 的 SSv2 为 40.4，接近但低于最佳 43.6；长训练缓解高 dropping 的损失 | “运动指标全面第一” |
| 密集特征 | 若干 PCA/余弦相似度图显示语义与空间组织 | “分割、检测、跟踪已经验证”；论文明确说尚未评估分割/跟踪 |
| 数据/规模 | 受控实验到 ViT-L、受限 K710；另有 1.806M-clip VideoMix 扩展 | “已证明 internet-scale 或更大 batch/model 同样成立” |
| 世界模型 | 因果 encoder 可作为流式感知、未来世界模型的地基 | “LeVJEPA 是动作条件世界模型、控制器或规划器” |
三个容易漏掉的细边界
**理论边界。**论文援引 LeJEPA 在其假设下关于各向同性高斯与防坍塌的结论；实际 SIGReg 每步用有限随机投影和数值积分近似。官方设置为 1024 个方向、区间 [0,3] 上 17 个节点。因此直接结论是“这是有理论动机的防坍塌目标”；有限 batch 是否精确高斯，仍受样本、方向和积分节点近似影响。
**配方边界。**论文受控默认是 20% K710、V=4；epoch-match 是 240 epochs/batch 3072，FLOP-match 的 LeVJEPA 才是 1085 epochs/V=10。仓库默认是 Walking Tours、26 epochs/V=10。三者的数据、时长或预算不同，各自对应一张独立收据。
**版本边界。**arXiv v1、仓库 README 和模型卡给 VideoMix 的 IN1K 为 69.5，项目页当前正文为 67.5。本系列既然锚定 v1，就报告 69.5 并注明冲突；未来修订应同时保存版本、commit 和访问日期。
论文自己列出的空白决定了下一步实验：短 schedule 下激进 dropping 会损失运动线索；保留时间对应关系的高稀疏采样仍待研究；超越受限语料和 ViT-L 的行为、大模型/大 batch 下 SIGReg 的相互作用尚未知；密集下游任务没有量化评估。公开 checkpoint 证明文件可取用；独立复现还需要第三方重建训练与评估协议。
把一条广告改回研究句
把这句宣传语改成研究句：“LeVJEPA 证明视频模型能无损理解因果并规划。”一种合格改写是：“作者在 arXiv v1 的指定 IN1K 冻结探针中观察到块因果 encoder 不低于 full attention；该模型未训练动作条件动力学或规划器，规划用途仍是未来方向。”
给边界画线的材料
- LeVJEPA arXiv v1：Discussion 与明确限制
- arXiv v1 附录 A/B：有限 SIGReg 近似与评估 EMA
- LeJEPA v3：SIGReg 与受假设约束的风险论证
- arXiv 提交历史：v1 日期与状态
- 官方代码证据快照（commit 3ea0dda）
- 冻结模型版本：69.5/55.0 与权重接口
让结论停在岸边
- 这是一组作者报告的预印本结果，不是本教程的独立复现，也不是同行评审定论。
- 因果 patch 表征不是因果理解，更不是动作预测、控制或规划。
- 运动、internet-scale、超大模型/batch 和密集任务仍有明确证据空白。
看看纸船有没有被写成轮船
- 下载到公开权重是否等于复现了预训练结果？
- block-causal encoder 是否已经包含动作条件 predictor？
- patch PCA 清晰时，能否宣称跟踪任务已通过？
查看答案
- 不等于；取用作者权重与独立重训、核验曲线是两件事。
- 不包含；LeVJEPA 没有动作输入、动力学预测器或规划器。
- 不能；论文只有定性结构，尚未评估分割与跟踪。