当前位置:首页 > 科技资讯 > 正文

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑?

在处理复杂的视频问答任务时,为什么传统的“一步步思考”(Let’s think step by step)策略有时反而不如直接回答?这背后的逻辑引起了业界的广泛讨论。

通常在数学推理中,强化学习(RL)能显著增强模型的解题能力。然而,将其平移至视频推理领域时,效果却往往不尽如人意。针对这一现象,来自阿里巴巴未来生活实验室的研究团队指出,核心挑战在于任务本质的差异:数学推理属于纯文本逻辑,而视频推理则要求模型在视觉信号与文本逻辑之间进行精准的跨模态校验。简单的文本思维链容易导致模型在推理过程中脱离实际内容,从而产生严重的“脑补”或视觉幻觉。

为了打破这一技术瓶颈,该研究团队提出了一个前瞻性观点:多模态模型“思考”的高效与否,取决于我们是否教会了它“如何科学地思考”。基于此,他们推出了一套全栈解决方案,包括高品质视频推理数据集ReWatch,以及具备人类“回看”特性的SOTA模型ReWatch-R1。该研究成果已成功中稿ICLR 2026。

夯实基础:构建高保真视频推理数据集ReWatch

研究人员深入分析后发现,现有训练数据普遍存在视频描述粗糙、逻辑链条断裂等痛点。为此,他们精心打磨了一个包含1万条视频、17万个问答对及13.5万条思维链的ReWatch数据集。该数据集具备以下三大核心优势:

1. 高精度时序字幕(ReWatch-Caption):利用分层字幕生成技术,为长视频提供了带有毫米级时间戳的精细描述,确保复杂推理有据可依。

2. 深度视频问答(ReWatch-QA):通过创新的“摘要对比精读”策略及多重过滤机制,确保问题答案必须深入视频细节,杜绝了模型依赖常识猜测的可能性。

3. 场景锚定的思维链(ReWatch-CoT):首创多智能体ReAct框架,精准模拟人类“思考-确认-再思考”的行为逻辑。通过“推理”与“观察”智能体的协同,每一行推理轨迹都包含了明确的动作(action)和事实观察(observation),将思维过程与视觉内容深度绑定。

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑? 视频推理  ReWatch-R1 强化学习 多模态大模型 第1张

该数据集的产出经历了从分层字幕到高难度QA,再到多智能体思维链合成的严谨闭环,确立了行业领先的数据质量标准。

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑? 视频推理  ReWatch-R1 强化学习 多模态大模型 第2张

深度进化:让ReWatch-R1掌握“回看”思维

在优质数据的加持下,研究团队采用了SFT+RL的训练范式。核心技术在于带过程奖励的强化学习(GRPO with O&R Reward),该方法不再仅仅关注结果的正确性,而是对模型的中间推理过程进行严苛评估。

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑? 视频推理  ReWatch-R1 强化学习 多模态大模型 第3张

这种精妙的“过程奖励”(O&R Reward)主要通过两个维度进行量化:

1. 观察奖励(Observation Reward):验证模型生成的“观察结果”是否忠于事实,将其与高保真字幕进行实时比对。

2. 推理奖励(Reasoning Reward):测试模型的“推理动作”是否高效。系统会剥离额外信息,仅根据模型生成的观察结果判断其是否能推导出正确结论。

这种机制促使模型像侦探一样,从零碎的视频片段中构建逻辑链条,极大程度抑制了虚假推理的产生。

卓越表现:SOTA成绩与行业启示

1. 刷新纪录,性能登顶

在五个国际主流视频推理评测基准上,ReWatch-R1的综合表现显著优于当前同级别的所有开源模型,稳坐SOTA宝座,验证了该模型在理解复杂视频逻辑方面的超强实力。

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑? 视频推理  ReWatch-R1 强化学习 多模态大模型 第4张

2. 核心结论:强化学习是激活多模态逻辑的“钥匙”

实验中发现一个关键细节:在SFT(监督微调)阶段,模型的“思考模式”表现平平。但一旦进入RL(强化学习)阶段,其推理潜力瞬间被点燃,性能上限大幅超越了“直接回答”模式。这有力地证明了,基于真实证据的显式推理过程是解决高难度视频任务的必经之路。

突破视频推理瓶颈:阿里巴巴ReWatch-R1如何通过“回看”机制重塑多模态逻辑? 视频推理  ReWatch-R1 强化学习 多模态大模型 第5张

结语

ReWatch-R1的诞生为多模态理解开辟了新路径。它不仅解决了高质量推理数据匮乏的燃眉之急,更通过“过程奖励”机制实现了从“简单模拟”到“深度逻辑构建”的跨越。这一成果标志着视频大模型正逐步具备像人类一样审视证据、严密推理的高级智能形态。

论文标题:ReWatch-R1: Boosting Complex Video Reasoning in Large Vision-Language Models through Agentic Data Synthesis

论文链接:https://arxiv.org/abs/2509.23652

项目主页:https://rewatch-r1.github.io

开源数据:https://www.modelscope.cn/datasets/zcccccz/ReWatch