大模型智能体的能力,很大程度上被外围 harness 放大:提示词、控制流、工具、记忆与上下文管理围绕冻结的骨干模型运转。近期方法越来越多地自动迭代提出并筛选组件级改动,相当于在智能体系统层面做递归自改进(RSI)。风险也很具体:递归进化可能靠记住训练任务而过拟合,分布内分数涨幅很大,一到分布外基准就缩小甚至消失。RRSI 把正则化原则写入 harness 自改进,同时约束候选提案与筛选,希望留下可复用机制,而不是基准特化方案或噪声。

提案侧的两类约束

提案器带有随时间退火的预算,限制一个候选能捆绑多少处改动;同时根据进化历史,鼓励尚未探索的轨迹。前者压的是「一次改太多、把当前任务补丁打满」,后者压的是在已走路径上打转。给定材料没有写出退火日程、轨迹表示,也没有无约束提案器的对照数字,因此这两条只能视为设计意图,不能当成已经量化验证的模块贡献。

筛选侧与摘要中的数字

选择器配备 critic 和 pruner。critic 筛查针对特定基准的提案;pruner 去掉过小、过贵或已不再有用的改动。几条约束合在一起,偏向可复用的智能体机制。论文在八个基准上评估,覆盖编码、智能体工作区与工程设计。摘要称,RRSI 在其进化所针对的切分上最高提升 14.1 分,在五个分布外基准上最高提升 4.7 分。需要停在字面:「最高」不是平均,也不等于八个任务都涨;摘要随后截断,基线名称、进化轮次、计算代价和显著性都无法从现有材料确认。

我的判断

问题提得准:一旦 RSI 能改 harness,刷训练切分几乎是默认能力,正则化不该只出现在权重上。退火预算、未探索轨迹、critic 与 pruner 的组合,逻辑对准「可迁移机制 vs 背题」,对做智能体脚手架自动优化的人有参考价值。但材料能支撑的结论到此为止。14.1 与 4.7 都是上限;五个 OOD 基准是否与进化数据隐性重叠、正则化是否牺牲上限、开销是否可接受,摘要都没说。适用边界宜保守:进化目标与部署分布接近、且负担得起反复评测时更值得试。读完全文前,不宜把 RRSI 写成已经解决系统级过拟合。