稀疏自编码器（SAE）常被用来检查语言模型内部表征，但其潜变量究竟暴露何种语言学结构，仍不清楚。这项工作把词性（PoS）当作受控测试案例，检验形态句法信息是由单个潜变量编码，还是由结构化的特征组共同承载。材料里的结论很明确：词性区分高度可恢复，却对不上一对一映射，最终呈现为分布式、依赖具体类别的局部化，而不是原子语法特征。
可恢复，却不是一对一映射
作者发现，词性区分可以从 SAE 激活中高度恢复，说明形态句法信号并没有完全淹没在叠加里。但可恢复性并不对齐到「一个潜变量对应一个词性」的映射。因此，至少在这项测试中，不宜把单个稀疏特征直接叫成某种词性探测器。这种可恢复性也不能还原为词汇记忆，排除了单纯背词的解释。开放类与封闭类词性差异显著，表明两类范畴在 SAE 空间中的组织方式并不相同。摘要没有给出差异的方向和幅度，这里只能记下「差别很大」，不宜外推。
紧凑特征组：稳定，也互相重叠
各类词性由紧凑的稀疏潜变量组支撑，不同标签之间差异很大。紧凑组意味着类别由有限特征共同支撑，而不是整张潜变量表一起投票；跨标签差异则说明不能用同一套方式去理解所有词性。这些组在留出数据上保持稳定，相关类别之间又会出现重叠。作者据此认为，SAE 把形态句法信息局部化成分布式、且依赖具体类别的形式，而不是原子语法特征。
我的判断
这项工作的价值，是用词性这个相对干净的探针，把「单潜变量等于单语法概念」的假设拆开。对做 SAE 特征命名或语法分析的人，它划了一条边界：高度可恢复不等于找到了原子词性单元。适用边界也很窄：材料只覆盖词性，没有讨论其他句法或语义范畴，也没有交代模型、层位和具体指标。摘要缺少恢复精度、特征组规模、开放与封闭类对比的数字，目前只适合当作方向性证据。在这些细节补齐之前，不宜把它写成可直接调用的词性特征清单。