离散视觉 token 把视觉编码成类似语言的离散形式，为多模态建模提供原生接口，使视觉与文本可以共享 next-token prediction 目标。量化误差长期被假定会造成不可避免的语义损失，连续视觉表示因此被当作语义保真度的内在上界。本文以多模态理解为代理任务重新检验这一假设，发现量化误差并不可靠：离散表示即便误差明显更大，也可能取得更好的理解表现。真正更关键的是离散索引的有效比特预算。
现有量化器为何会饱和
比特预算重要，但现有量化器最终仍会饱和：额外码本贡献的语义信息逐步减少。单纯增加码本，并不能持续把离散表示的语义推向连续表示。作者把问题从「量化误差大不大」改写成「有效比特是否还在提供新的语义信息」。材料未给出具体码本规模或饱和曲线，此处只保留这一机制判断。
分解式向量量化
作为缓解饱和的一种方法，论文提出 Factorized Vector Quantization：对视觉特征的互补、固定维度视图，用对称并行码本量化。该方法在更大比特预算下仍能继续提升，最终在多模态理解上匹配连续视觉表示。模型在工业规模多模态数据上训练，在离散表示模型中达到最优，九项指标平均分别超过 UniAR 22.8%、Emu3-Chat 59.2%。摘要在「首个离散表示」处截断，完整表述未给出。
我的判断
这项工作把「离散视觉 token 是否语义无损」从默认前提变成可检验的问题，并用有效比特预算和码本饱和给出比量化误差更具体的解释。FVQ 设计目标清楚：用互补视图与对称并行码本提高比特利用率。需要克制的是，证据主要来自多模态理解；材料未给出生成或重建数字，工业数据与九项指标构成也未展开。适合做统一离散多模态建模的团队跟进，不宜据此宣称离散表示已在所有视觉语义维度追上连续表示。完整论文的消融与任务覆盖仍需核对。