世界模型作为策略 (World Model as Policy)

预计阅读：15 分钟 | 前置知识：了解世界模型和VLA基础（见Part 1）

---

核心思想

将世界模型直接用作或辅助机器人策略，而不是分离的组件。

传统方法：感知模块 → 规划模块 → 控制模块 世界模型策略：一个统一的模型，同时理解世界并输出动作

---

五大范式

综述将世界模型策略分为五种范式：

┌──────────────────────────────────────────────────────────┐
│              World Model as Policy: 五大范式              │
├──────────────────────────────────────────────────────────┤
│                                                          │
│  1. IDM风格策略 (Inverse Dynamics Model)                 │
│     先预测未来视觉 → 再用IDM提取动作                       │
│                                                          │
│  2. 单骨干策略 (Single-backbone)                          │
│     一个模型同时建模视频和动作                              │
│                                                          │
│  3. MoE/MoT风格策略                                      │
│     视频和动作专家分离，通过注意力交互                      │
│                                                          │
│  4. 统一VLA模型 (Unified VLA)                             │
│     世界建模作为训练目标内化到VLA中                        │
│                                                          │
│  5. 隐空间世界建模 (Latent-space)                         │
│     在表示空间做未来预测，不生成像素                        │
│                                                          │
└──────────────────────────────────────────────────────────┘

---

范式一：IDM风格策略

工作流程

输入: 当前图像 + 语言指令
         ↓
   生成未来视觉轨迹 (视频预测)
         ↓
   逆动力学模型 (IDM) 从轨迹中恢复动作
         ↓
输出: 动作序列

关键变体

视频-IDM方法： - UniPi：统一视频生成+IDM的框架 - VPP：视频预测策略

3D感知IDM扩展： - Hind4sight-Net：从视频中提取3D感知运动结构 - AVDC：3D感知的视频扩散控制

优势与劣势

两阶段解耦的好处是视频预测器能单独换、单独复用，中间那张“未来画面”人也能看懂、能检查，长距离规划时这一步可以独立做。代价是多训一个 IDM，动作质量被视频生成质量卡死——第二段模型再好也救不回第一段。两段串行叠起来，推理延迟也上去了。

---

范式二：单骨干策略

工作流程

输入: 当前图像 + 语言指令
         ↓
   统一骨干网络 (同时处理视频和动作)
         ↓
输出: 动作 + 视频预测 (联合输出)

代表模型

• UVA：统一视频-动作模型
• UWA：统一世界-动作模型（综述 §3.3 与 UVA、VideoVLA 并列）
• VideoVLA：视频VLA
• Cosmos Policy：基于Cosmos的策略
• DreamZero：零样本世界模型策略

优势与劣势

一个模型同时出视频和动作，训练端到端，两者共享表示，推理时不必串两次，因此比两阶段快。代价是模型规模上去了，训练数据的需求也跟着上去，而且中间没有可检查的产物，出了问题不好定位。

---

范式三：MoE/MoT风格策略

工作流程

输入: 当前图像 + 语言指令
         ↓
   ┌─────────────┐  ┌─────────────┐
   │ 视频专家    │  │ 动作专家    │
   │ (Video Expert)│ │(Action Expert)│
   └──────┬──────┘  └──────┬──────┘
          │                │
          └─── 交叉注意力 ───┘
                    ↓
              融合输出

代表模型

• GE-Act：专家耦合设计
• Motus：混合Transformer
• BagelVLA：VLA的MoT设计
• SuSIE / GHIL-Glue：早期实例——用图像编辑扩散模型预测子目标图像，再交给后续控制（综述 §3.4 原文："Earlier instantiations of this paradigm leveraged image-editing diffusion models to predict subgoals"）

优势与劣势

视频专家和动作专家各管一摊，可以分别优化，换掉一个不影响另一个。难处在于两者怎么交互——注意力连在哪一层、怎么连，这个机制没有定式；专家多了之后训练也更容易不稳定。

---

范式四：统一VLA模型

核心思想

将世界建模作为训练目标内化到单一VLA骨干中：

训练目标 = 动作预测损失 + 视频预测损失 + 语言理解损失

代表模型

• GR-1 (ByteDance)：视频生成+动作预测统一（综述 §3.5 原文："GR-1 (Wu et al., 2024) is an early representative that jointly predicts actions and future images"）
• UP-VLA：统一策略VLA
• DreamVLA：带世界建模的VLA
• UniVLA：任务中心隐动作
• InternVLA-A1：大规模统一VLA

优势与劣势

架构是五种里最简洁的，视频和动作共用一个表示空间，多任务一起学还能互相受益。代价是训练目标要同时照顾好几件事，数据需求大；所有能力压在一个模型上，它退化就是整体退化。

---

范式五：隐空间世界建模

核心思想

在表示空间中做未来预测，不显式生成像素：

输入: 当前状态表示 + 动作
         ↓
   JEPA风格预测器 (在隐空间预测未来表示)
         ↓
输出: 下一状态表示 (非像素)

代表模型

• FLARE：隐空间未来预测
• VLA-JEPA：JEPA用于VLA
• JEPA-VLA：JEPA风格的VLA
• DIAL：动态隐空间动作学习
• WoG (World Guidance)：把世界建模搬进动作生成的条件空间（综述 §3.6）

优势与劣势

在隐空间里推演，避开了像素空间重建的高成本，计算量小，更适合实时控制。代价是推出来的东西没法直接看，没有可视化预测可供人检查，所以隐空间怎么设计就成了成败关键。

---

五种范式对比

维度	IDM	单骨干	MoE/MoT	统一VLA	隐空间
架构复杂度	中	低	高	低	中
训练难度	中	高	高	高	中
推理效率	低	高	中	高	高
可解释性	高	低	中	低	低
视频生成	✓	✓	✓	部分	✗
实时性	差	好	中	好	好
适合无人机	中	好	中	好	好

---

其他应用：不在"策略"五范式里的世界模型工作

综述还有两条应用线已经明确超出 §3 的五范式，本卷单独列在此处，避免被硬塞进某个范式：

• VISTA（综述 §6.1 导航）：用 "imagine-and-align" 策略做指令条件下的视觉想象。它出现在综述的导航章，而不是策略章。

---

无人机领域的映射

这张表是本仓库自填的——综述全文没有任何无人机内容，下面这些论文都只出现在本仓库。

范式	无人机代表（本仓库补充）
IDM	ANWM (FFP + IDM)
单骨干	VLA-AN (端到端)
MoE/MoT	UAV-TrackVLA (双分支)
统一VLA	CognitiveDrone
隐空间	对比世界模型

---

延伸阅读

• 世界模型作为模拟器 — 综述第三部分精读
• VLA架构演进 — VLA技术发展
• 无人机VLA模型 — 无人机VLA详解

---

思考题

1. 范式理解：用自己的话解释IDM策略的工作流程。

2. 对比分析：单骨干和统一VLA有什么区别？

3. 无人机应用：对于无人机实时控制，哪种范式最合适？为什么？

4. 趋势判断：你认为隐空间世界建模会取代像素空间生成吗？

5. 进阶思考：能否设计一个结合多种范式优势的统一架构？

参考答案

1. IDM策略的工作流程分两步：首先根据当前图像和语言指令，通过视频生成模型预测未来的视觉轨迹；然后将该轨迹输入逆动力学模型（IDM），从中恢复出对应的动作序列。这种两阶段设计使视频预测和动作解耦，模块化且可复用。 2. 单骨干策略用一个统一的骨干网络同时处理视频和动作的联合建模，端到端训练简洁高效；统一VLA则更进一步，将世界建模作为训练目标（视频预测损失+动作预测损失+语言理解损失）内化到VLA骨干中，本质上是单骨干的增强版，强调多任务学习的统一表示空间。 3. **隐空间世界建模**和**统一VLA**最合适。隐空间方法在表示空间中做预测，推理效率高、延迟低，适合无人机的实时控制需求；统一VLA端到端架构简洁、推理速度快，且多任务学习效果好。两者在"适合无人机"维度上均被评为"好"，而IDM因推理延迟高、MoE/MoT因架构复杂度高，不太适合实时场景。 4. 两者不会完全替代，而是互补共存。像素空间生成在需要可视化预测、数据增强和人类可解释性的场景中仍有价值；隐空间建模则更适合实时控制和资源受限的部署环境。长期来看，隐空间方法可能成为主流，但像素空间生成在离线训练和仿真评估中仍不可替代。 5. 可以设计一个分层混合架构：底层使用隐空间JEPA风格的高效预测器做快速状态预测（借鉴范式五的效率），中间层用MoE/MoT的专业化专家机制分别处理视觉和动作（借鉴范式三的分工），顶层用统一VLA的多任务训练目标进行端到端优化（借鉴范式四的简洁性）。这样兼顾效率、专业化和统一性。