主题概况

World Model Safety

趋势
1
想法
1
最近一期
2026-04-01
趋势 · 日 · 2026-04-01 · Embodied AI

控制工作越来越明确地处理接触、安全区域和 rollout 风险

这个时间段很小,但脉络一致:控制类论文把感知和动作连到错误会变成物理后果的那个点上。最强的证据来自机器人和手术场景,模型通过暴露接触状态或安全交互区域来增加价值。世界模型综述补了第二层意思:一旦预测进入规划,安全评估就必须跟踪错误在多次 rollout 中如何持续。

想法 · 日 · 2026-04-01 · Embodied AI

接触前控制检查

这一时期的控制工作指向三个具体的流程变化。在机器人操作中,扭矩应该在接触时进入策略,而不是贯穿整个动作。在手术自动化中,工具-动作特定的安全区域热图可以作为可见的接触前检查。在世界模型规划中,评估应跟踪小扰动是否会持续并跨滚动改变动作,因为普通的一步准确率无法捕捉这种暴露。