原文摘要 · English Abstract
We construct the first video deep research benchmark, VideoDR, centered on video-conditioned open-domain VQA requiring cross-frame visual anchor extraction, interactive web retrieval, and multi-hop reasoning over joint video-web evidence. Through rigorous human annotation, we obtain high-quality samples spanning six semantic domains. We evaluate under both Workflow and Agentic paradigms, and find Agentic is not consistently superior to Workflow; goal drift and long-horizon consistency are core bottlenecks.
概要
用户对视频提问时,能验证答案的证据常不在视频里,而是散落在网页上:视频只给局部线索,模型须据此在网络核实事实。已有深度研究基准多从纯文本查询出发,视频基准又假设证据封闭在视频内,两者间存在空白。本文提出 VideoDR,首个视频深度研究开放域基准:模型看过视频后不可重看,须跨帧提取视觉锚点,检索开放网络定位证据,在视频与网页的联合证据空间中完成多跳推理,输出唯一可验证答案,并用双重依赖性质检强制样本同时依赖视频与网络证据。
现有多模态评测长期把视频当作弱项:视频推理需要跨时序线索追踪,但主流评测多采用封闭证据设定,模型只需在给定视频内部作答,无需与开放网络交互。深度研究类基准虽已发展成熟,却几乎都从纯文本查询出发,视觉内容常被当作静态辅助信息而非关键证据。真实场景中,用户对视频的提问往往是开放域事实性问题:待核验的知识不在视频或标题中,而是散布在动态变化的网络语料里,相关线索又分布在视频时间轴上,需要跨帧关联提取——这恰好落在现有基准的空白地带。
关键贡献
- 首次系统定义了以视频为线索、需在开放网络完成多跳核验的视频深度研究任务,形式化为 f: (V, Q; S) → A。
- 通过候选视频池筛选、多帧多跳问题设计与两阶段质量控制,构建了包含 500 条样本、覆盖六大语义领域的高质量基准 VideoDR。
- 设计了视频-网络双重依赖性质检:仅保留同时无法被纯网络检索和纯视频观看解答的样本,确保联合证据依赖真实存在。
- 基于五人盲测人类正确率定义样本级难度分数,并据此将样本划分为高、中、低三档难度,为后续分层评测提供依据。
- 在 Workflow 与 Agentic 两种范式下评测六款主流多模态大模型,揭示 Agentic 并不总优于 Workflow,其收益取决于模型能否在长检索链中维持初始视频锚点。
- 通过按难度、视频时长与语义领域的细粒度错误分析,指出目标漂移与长程一致性是制约下一代视频深度研究智能体的核心瓶颈。
方法详解(完整做法)
总体思路
VideoDR 把「视频深度研究」定义为一个三元组任务:给定视频 V 与问题 Q,模型可以调用浏览器检索工具 S,在不允许重新观看视频的前提下,反复在视频线索与网页证据之间跳转,直到给出唯一且可验证的答案 A。整套基准建设分两条线:一是标注流程——从候选视频池筛选出带有跨帧视觉锚点的片段,设计强制多帧、多跳的问题;二是质量控制——用双重依赖性质检剔除只靠视频或只靠网络就能作答的「假样本」,再用五人盲测确定难度分层与人类基线。最终在 Workflow 与 Agentic 两种系统范式下评测主流多模态大模型,刻画它们在视频锚定的开放网络推理上的能力边界。
任务定义与形式化
VideoDR 要求模型在观看视频后不能反复回看,只能依靠一次性提取的视觉线索驱动后续所有检索与推理;这个约束把「持续记住视频锚点」变成了任务里显式要考核的能力,而不是可以靠反复回看绕过的细节。任务形式化为:
其中 S 是可交互调用的浏览器检索工具,模型需要跨帧提取视觉锚点、据此在开放网络定位候选证据,再在视频与网页的联合证据空间里完成多跳推理,输出唯一确定的答案。
标注流程与负样本过滤
标注分三步:候选视频池阶段按来源、领域、时长做分层抽样,同时过滤三类无效视频——单一场景高度冗余的片段、信息过于显性以致纯文本检索就能作答的热点话题、以及在开放网络上找不到可验证证据链的孤立内容;初筛阶段人工剔除缺乏突出视觉锚点的片段,只保留在多个时间点具有连贯视觉线索、适合跨帧关联的视频;问题设计阶段要求每个问题必须依赖跨越多帧的视觉线索(无法靠单帧截图回答),且必须隐含可分解的多步推理路径,强制模型至少完成一轮「视频感知—外部检索」的信息交换。为保证可验证性,团队还归档了支撑每个答案的关键证据网页。
视频-网络双重依赖检验
这一节回答「为什么」需要专门设计两个消融测试:如果只靠标注者主观判断题目难度,很容易无意识地做出单靠检索或单靠视频就能解决的题目。因此团队对每条标注样本做 Web-only 测试(只给文本问题,允许网络检索)和 Video-only 测试(只给视频,不做检索),只有同时在两个测试下都失败的样本才被保留——这从制度上保证了「视频给线索、网页给答案」这一联合依赖关系是真实存在的,而不是标注者的主观判断。
难度分层与人类基线
为量化题目难度,团队让五名独立标注者在能看视频、看到问题并自主检索的条件下盲测作答,样本 i 的难度分数按五人正确率定义:
其中 是第 j 名标注者给出的答案, 是标准答案,指示函数在语义等价时取 1。据此若五人中仅 0-1 人答对记为 High,2-3 人记为 Mid,4-5 人记为 Low。人类整体表现则是全部样本难度分数的平均:
在全部 500 条样本上 ,标准差 0.298,且未出现「普遍答不出来」的系统性失败,这从侧面印证了标注答案的一致性。
Workflow 与 Agentic 两种评测范式
Workflow 采用两阶段设计:多模态模型先从视频里抽取与问题相关的跨帧视觉线索、生成结构化中间文本,之后的检索与推理完全基于这段文本、不再访问原始视频,系统显式做反思与证据筛选来生成下一轮查询,最终汇总多轮检索结果作答。Agentic 则是更强的端到端设定:把原始视频与问题一起交给单个多模态智能体,在同一执行循环内完成视频理解、查询生成、网络检索与证据整合,由模型自主决定何时基于视频线索发起检索、如何通过中间推理改写查询。两种范式的对比揭示:Agentic 的优势并不稳定,只有当模型能在长检索链中持续依赖最初提取的视频锚点时,它才能超过有显式中间文本兜底的 Workflow。
小结
VideoDR 真正的关键不是任务定义本身,而是用双重依赖性质检把「视频给线索、网页给答案」的联合推理能力从可能被规避的隐性要求,变成了可以被制度性验证的显性约束。
实验与关键数据
作者在 VideoDR 的 500 条样本上,对比闭源与开源多模态模型在 Workflow 与 Agentic 两种范式下的表现,用 DeepSeek-V3-0324 作裁判模型判定语义等价。结果显示 Agentic 并非始终优于 Workflow,收益取决于模型能否持续依赖最初的视频锚点。
关键数据
影响与局限
VideoDR 把「深度研究」这一原本以文本查询为中心的评测范式首次系统地扩展到视频模态,填补了视频理解基准(证据封闭于视频内)与深度研究基准(起点是文本查询)之间的空白。其提出的双重依赖性质检与难度分层协议,为后续构建视频-网络联合推理基准提供了可复用的标注与评测方法论,也为设计更强的长程一致性智能体指出了明确方向。
局限与不足
VideoDR 目前只覆盖英文语境下的开放网络检索,标注全部由人工完成,500 条样本的规模难以支撑对长尾语义领域和更长视频时长的精细覆盖;难度分层依赖五名人类标注者的盲测结果,样本量较小时该分数的统计稳定性有限。此外,评测依赖 LLM-as-judge 对开放式答案做语义等价判断,裁判模型自身的偏差会传导进最终的准确率数字;论文也未探讨模型检索行为是否存在对特定搜索引擎或网页结构的过拟合,这些问题留给后续工作。