分布式大模型训练依赖紧耦合的启动设置、算子内核和通信调度。Recursive Self-Improvement 虽能加速孤立算法和内核合成,单点编辑却很容易撞上 OOM 边界、编译器冲突、测量抖动或静默数值漂移。InfraRSI 是一套智能体 harness,把开放式人类命令转成经过验证的训练优化。
五阶段工作流如何防止奖励黑客
init 锁定可编辑范围,并用固定任务契约覆盖工作负载、损失和时序不变量,防止奖励黑客。doctor 剖析基线各阶段并校准集群噪声。run 联合优化启动旋钮和代码补丁,对顶级候选相对基线再验证,并把发现记入跨硬件经验库。report 与 apply 审计源路径、跟踪失败试验成本并提交晋升的改动。重点是先锁范围和契约,再允许搜索。
全局拟合含 OOM 的执行时间与内存模型
它不从单一现任配置贪婪步进,而是从多样化经验播种配置初始化,并在所有试验(包括 OOM)上拟合全局执行时间和删失峰值内存模型。据此为每种设置定价内存成本,用实时运行修正 LLM 被校准错误的先验,并把吃内存的优化与省内存手段及已验证补丁配对。在四个单节点和多节点、稠密与 MoE 工作负载上,加速最高达 2.75 倍,并提升平均 Model FLOPs Utilization。摘要在此处截断,具体 MFU 数字未给出,故不补充。
我的判断
InfraRSI 的价值在于把 RSI 推进到训练基础设施,并用契约、噪声校准、OOM 建模和跨硬件经验库应对分布式训练的耦合与失败模式。它适合已有稳定基线、能明确 loss 与 timing 不变量、愿意承担试验成本的团队。局限同样清楚:材料信息不足,结果不完整,未见失败成本量化、经验库迁移效果,以及 doctor 对编译器冲突和静默漂移的覆盖证据。概念上合理,但真实集群噪声能否被充分校准,当前无法判断。对中文开发者,可参考其给训练优化智能体加护栏的思路,而不是采信加速上限。完整论文出现前,当作方向蓝图,保持克制。