世界动作模型(WAM)用预训练视频扩散模型的时空先验学习通用机器人策略。一类近期方法只做单步去噪,取出中间未来视频表征再交给独立动作解码器,避开完整视频生成的多步迭代,以提高推理效率。动作预测因此直接取决于这些未来表征的质量。FRED(带时序上下文的未来表征自蒸馏)用自蒸馏从噪声一步预测未来表征,目标来自真值未来观测上的表征,并用历史观测提供时序上下文。
效率路线把质量问题前置
完整去噪生成视频成本高,单步表征换效率后,表征质量不足会直接拖累动作。FRED不另起炉灶改动作头,而是把单步未来表征对齐到真值未来观测上的表征。摘要未展开网络结构,能确认的是训练目标本身:从噪声预测、以真值未来表征为靶。
自蒸馏加历史观测
模型从噪声预测未来表征,监督来自真实未来观测提取的表征。视频模型同时条件在历史观测上,为单步预测提供时间上下文。作者报告在多样真实世界操作中持续优于对照WAM,长程、域外及零样本环境泛化增益更大。对人视频演示、机器人训练数据中没有的任务,FRED成功率50.0%,最佳对照WAM为19.4%。任务数量与统计细节摘要未给。
我的判断
把单步效率与表征质量绑在一起训,问题定义清楚。50.0%对19.4%说明人到机器人迁移可能很吃未来表征对齐,但摘要没有任务清单和失败分析,不宜外推成通用操作已解决。它依赖视频扩散先验和真值未来观测做蒸馏,算力、真机延迟也未谈。更稳妥的读法:这是WAM单步未来表征的训练框架,证据集中在长程、域外和零样本迁移。