- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月1日 17:59
- 状态
- 单一信源
发生了什么
arXiv 论文提出 VISTA 视觉 harness,让通用多模态模型通过视觉观测直接感知交互环境,并以无损视觉记忆保存历史画面,供模型推理时主动检索和重组输入。在 ARC-AGI-3 上,VISTA 将 Claude Opus 5.0 的 Relative Human Action Efficiency 分数从 40.68 提升到 100.00,完成全部 25 个公开游戏,且比首次参与的人类少用 57.4% 的动作。论文称该方法在另外三个视觉游戏与谜题基准上也优于仅使用最小 harness 的同底层模型。
为什么重要
此前多模态模型在交互环境中常受限于视觉输入的组织方式,难以维持长程视觉上下文。VISTA 表明不更换底层模型,仅通过视觉 harness 设计就能显著改变任务表现,把提升来源从模型能力转向推理时的输入与记忆编排。
底层逻辑
VISTA 不让模型依赖文本化的压缩状态,而是保留原始视觉观测形成无损视觉记忆,并允许模型在推理时主动检索、重组视觉输入。由此模型获得长程视觉能力,在交互环境中直接基于画面做决策,减少动作冗余。
产品与商业机会
对产品团队而言,这意味着可以在不重新训练或替换底层多模态模型的情况下,通过外挂视觉记忆与输入编排层提升 Agent 表现。研发重点可转向观测存储、检索策略与视觉上下文管理,并可能降低单位任务的交互动作数与推理成本。
- 在现有视觉 Agent 产品中增加无损视觉记忆模块,支持按推理步骤回取历史观测画面。
- 围绕 ARC-AGI-3 式交互环境搭建评测流程,验证同一底层模型在有无视觉 harness 时的动作效率差异。
- 将动作数下降作为产品指标,优化游戏、GUI 自动化等场景的用户等待时长与调用成本。
- 把视觉 harness 抽象为可插拔组件,快速适配不同视觉游戏或谜题环境。
仍待确认
- VISTA 在不同底层多模态模型上的提升幅度是否一致,论文未给出跨模型对比。
- 无损视觉记忆在长时交互中的存储与检索开销多大,证据未说明成本结构。
- 在 ARC-AGI-3 之外,该方法是否在真实生产级 GUI 或机器人环境中同样有效。
- 论文中 Claude Opus 5.0 的版本与可复现细节未在证据中说明。