为基于流的 VLA 控制循环缓存动作块
部署基于流的 VLA 策略的团队,应在推理路径中加入外部动作块缓存,并在相同任务分布下测量成功率与延迟的关系。ActionCache 使用紧凑的多模态键保存过去的中间动作块,为当前上下文检索相近动作块,然后直接执行,或用一到两步流迭代进行细化。实际测试规模不必大:用成功运行轨迹构建缓存,设置回退到完整生成的相似度阈值,再在重复操作任务上比较控制延迟、缓存命中率和任务成功率。
报告中的数据足以支持一次直接的工程试验。在 VLABench 上使用 π0.5 时,完整模型的成功率为 38.8%,动作头延迟为 18.8 ms。不做细化时,ActionCache 的成功率为 32.9%,延迟为 1.6 ms;使用一步细化时,成功率为 32.4%,延迟为 3.6 ms。不使用检索的简单一步生成,成功率降至 6.8%。因此,关键收益来自复用相似上下文中的动作,而不只是减少流迭代步数。对于动作头占据控制循环较大延迟预算、且重新训练主干网络成本较高的实验室,这种方案很适合进行测试。
资料来源
- Document 819