上下文能抬高大模型表现，但上下文一旦撤掉，这些增益经常跟着消失。这项工作把问题收成记忆巩固：把上下文带来的收益内化进参数，同时保住非目标能力。作者把上下文指定的编辑、技能学习和行为引导放到同一目标下，并给出五任务族测试台，在单次、批量和顺序更新三种制度里同时测量巩固与保持。
做法：用前瞻查询把上下文蒸馏进权重
方法先生成前瞻查询，预估这段上下文之后可能被怎样使用，再把带上下文时的输出蒸馏成可合并的低秩更新，或结构性前馈网络更新。可合并是关键设计：多次写入后更新仍能叠在一起，而不是互相覆盖。材料覆盖 4B 到 120B 的稠密骨干与混合专家骨干，也包括纯文本模型和多模态模型。两种更新形态分别对应低秩适配和结构层面的前馈改写，摘要把后者对应到 Cortex-Structural。
结果落在巩固与保持的权衡面上
在多数已评测设置里，Cortex 处于经验性的巩固与保持帕累托前沿。一个被明确写出的点是：在 14B 模型上做 50 次顺序事实编辑后，Cortex-Structural 回收了 88.9% 的上下文诱导增益，同时保住原模型 99.8% 的非目标表现。数字说明两件事：巩固不是把增益全写进去，而是回收一大部分；保持几乎贴着原模型。摘要没有给出其余任务族的逐项分数，也没有列出对照方法的完整表，因此不能把「多数设置」读成所有设置、全面领先。
我的判断
这条工作的价值在于把「提示里有效、拿走就失效」收成可测的巩固问题，并把编辑、技能、行为引导接到同一目标。对需要反复注入同一类上下文的场景，可合并的参数更新比每次重塞提示更干净。适用边界也很窄：证据来自测试台，最硬的数字是 14B 上 50 次事实编辑；多模态与更大模型只被摘要概括为覆盖，没有单独数字。局限同样清楚——前瞻查询如何生成、计算开销、失败案例，以及超过 50 次或跨任务族顺序写入时是否仍稳，材料都没有说。在现有信息下，我会把它看成一条值得盯的巩固路线，而不是已经可替换长期记忆系统的方案。