实时视频助手的难点,不只是看懂画面或回答问题,而是持续观察环境,并根据用户目标提供下一步帮助。论文指出,传统被动式视频理解数据集通常以离线问答为主,无法处理交互中的反馈循环:模型的回答会改变用户后续动作,而新的动作又会影响模型下一轮判断。OmniAssistBench试图把评测重点从“是否理解视频”推进到“是否能在连续交互中有效引导用户”。

评测如何设计

这项工作首先处理了交互路径发散的问题。同一个用户目标可能有多种完成方式,如果不同模型引导用户走不同路线,结果就很难直接比较。为此,数据集从源视频中提取预定义先验,并要求模型沿着完全相同的路线指导用户。这样做牺牲了一部分开放探索空间,但换来了更明确的评测边界。

由于真实交互视频较为稀缺,研究者采用逆向工程方式构建数据:从互联网上已有的视频中推导逻辑上的用户目标,再将视频切分为多轮片段,用于模拟持续交互。整个数据构建流程投入了超过1000个专家工时,说明这类基准的核心成本并不只在模型推理,也在于把自然视频整理成可复现、可比较的交互任务。

模型表现与暴露的问题

在满分100分的评测中,专有模型Gemini-3-Pro达到66.4分,开源模型Qwen3-Omni-Instruct达到51.2分。摘要没有将这一差距归因于某个单一模块,但结果至少表明,当前模型距离稳定完成助手式视频交互仍有明显空间。

论文观察到,模型总体上能够理解用户输入,却经常给出错误或不完整的回答。具体困难包括难以处理视觉提示,例如手势等信息。这一点很关键:交互助手不仅要识别用户说了什么,还要把语言目标、画面状态和任务先验结合起来,并在多轮过程中保持回答与指定路线一致。静态问答中的一次正确,并不等于连续协作中的有效。

我的判断

OmniAssistBench的价值在于明确了视频大模型评测中的一个缺口:实时助手需要被放在动态任务里考察,而不是只接受固定问题。预定义路线和视频逆向构造也让结果更容易复现,适合比较不同模型的交互执行能力。

但它的适用边界同样清楚。模型被要求沿着源视频确定的路线行动,因此这套基准更接近受约束的交互指导,不能直接代表开放环境中的自主规划能力。数据来自已有互联网视频,能覆盖哪些任务和场景,材料中没有进一步说明。当前分数差异可以作为能力信号,但不宜据此推断模型在所有真实视频助手场景中的综合表现。