大语言模型已从单轮聊天机器人演进为具备长程推理能力的交互式智能体。真实部署中,MCP工具服务常返回噪声反馈,用户也可能介入纠正,但现有方法对反思学习与失败恢复的监督仍有限。Agent-Reflex提出一套通用训练框架,旨在激励智能体主动进行反思。
三阶段训练流程
框架包含三个阶段。首先是环境反思技能发现(RSD):向环境扩展中注入 grounded 的工具反馈扰动,采样能力多样的LLM池,挖掘匹配的成功-失败对,并总结可复用的反思元技能。随后进行反思监督微调(ReSFT):将每个技能转化为自反思、技能恢复与以用户为中心的纠正监督,强化互补的反思行为。最后是同策略反思策略优化(ORPO):结合噪声交互下的智能体强化学习,与反思引导的同策略蒸馏,进一步激发主动反思。
主要结果
基于Qwen3-8B构建的Agent-Reflex,在五个长程工具使用基准上总体达到58.6,在AgentNoiseBench上达到29.1,超过强环境扩展与反思基线。作者还在六个具有挑战性的智能体基准套件上验证了有效性。材料显示该方法针对噪声反馈与用户干预场景,强化了失败恢复相关能力。
我的判断
Agent-Reflex把反思从被动补丁做成可训练的技能库与优化目标,方向务实,尤其贴合真实工具调用中的噪声与人工纠正。结果数字清楚,相对基线有提升。材料未展开各组件消融细节与计算开销,也未充分说明跨模型迁移情况,实际落地仍需验证技能库的泛化边界与噪声分布匹配程度。整体是一条可跟进的智能体训练路径,适合关注长程工具智能体稳定性的团队参考。