来源笔记
Latent State Design for World Models under Sufficiency Constraints
摘要
本文主张，世界模型研究应按潜在状态为任务必须保留什么来评判。它提出一种基于功能的分类法，以及一套评估方案，用来检查潜在状态是否支持预测、控制、规划、记忆、落地或反事实推理。
问题
- 世界模型一词用于不同系统：基于模型的强化学习、视频预测、生成式仿真、面向对象的建模、机器人和视觉-语言-动作规划。共同问题在于潜在状态设计，因为每个系统都需要状态保留不同的信息。
- 文中认为，按架构来分方法会误导比较。一个好的视频预测器可能在控制上失败，而一个压缩的控制状态又可能丢掉图像重建所需的细节。
- 对具身智能体来说，这一点很重要，因为规划和行动需要状态跟踪可达性、价值、干预、记忆，以及部分可观测条件下的隐含世界状态。
方法
- 论文把潜在世界模型定义为一种学习到的状态更新系统：它把历史映射为潜在状态，写作 z_t = phi(h_t)，并学习带动作条件的动力学，写作 p_theta(z_{t+1} | z_t, a_t)。
- 它按 6 种潜在状态角色对方法分组：预测嵌入、循环信念状态、对象/因果结构、潜在动作接口、落地规划接口、记忆基座。
- 它形式化了 3 种充分性关系：在 POMDP 假设下，精确的信念状态包含预测和控制；预测充分性不保证控制充分性；如果没有干预、动作数据、因果假设或落地，仅靠被动预测不能识别反事实动力学。
- 它提出沿 7 个轴进行评估：表征、预测、规划、可控性、因果/反事实支持、记忆和不确定性。
- 它把方法映射到一个压缩谱系上，包括重建占比高的模型、token 压缩、表征预测、奖励/价值塑形模型、价值等价模型，以及因果/反事实模型。
结果
- 摘要没有报告新的基准准确率、回报、成功率或数据集规模数字。
- 主要的具体主张是一个覆盖潜在世界模型的 6 角色分类法，包括预测、信念状态、结构化、动作接口、规划接口和记忆角色。
- 论文给出 3 个命题，用来区分信念状态充分性、预测充分性、控制充分性和反事实充分性。
- 它给出一张 7 轴评估矩阵，用来诊断潜在状态保留了什么、丢弃了什么、以及能支持什么。
- 它列出 3 类常见失败模式的基准测试：遮挡/重新访问/延迟线索测试用于信念状态；冻结/适配控制和稀疏奖励规划测试用于控制充分性；保留动作替换和对象干预测试用于反事实支持。
- 它的文献图谱覆盖 2018-2026 的例子，包括 World Models、SimPLe、IRIS、GAIA-1、I-JEPA、V-JEPA 2、LeWorldModel、MuZero、EfficientZero、TD-MPC2、Causal-JEPA 和 CausalVAE-WM。