- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月24日 15:19
- 状态
- 单一信源
发生了什么
论文提出 World Action Agent(WAA),一种多智能体框架,让通用 VLM 借助基础工具直接操控机器人,所有决策都在具备三种特性的视觉动作工作区内完成:自动选择的接触视角、可编辑的动作预演、以及视图内校正闭环。在 LIBERO-Pro 上,仅用 LIBERO-90 演化出技能的 WAA 达到 75.6% 平均成功率,超过端到端 VLA、代码即策略智能体和同骨干的视觉框架基线。
为什么重要
此前 VLM 用于机器人操作多是间接的,例如预测约束、编写程序,或只给模型一个场景视图而非可行动的世界。WAA 把 VLM 放进可预演、可修正的视觉动作工作区,并让同一工作区同时承接技能演化与轨迹积累。
底层逻辑
接触视角从场景几何自动选取,把当前交互周边呈现给模型;动作预演把每个动作变成可编辑提案,由智能体本身或 Imagination Agent 依据规划反馈预览和修改后再执行;视图内校正则在观察与低层执行之间闭环,让智能体在能看到偏移的视图中消除残余误差。技能经由 Skill Agent 以证据评审方式从专家视频和人类教学中演化,交互轨迹又用于训练更小 VLM 驱动同一框架。
产品与商业机会
对机器人产品团队而言,可采用“大模型决策+小模型执行”的分层路径:先以 VLM 加工具驱动,积累交互轨迹后再蒸馏到较小模型,降低推理成本。同一技能在 robosuite 上无需再学习仍有效,说明技能具备一定跨环境复用性,可减少重复训练与数据采集投入。
- 在自有机器人任务上复现 WAA 工作区,验证接触视角、动作预演和视图内校正三项机制各自的收益。
- 把专家视频与人工教学整理为可评审的技能演化流程,建立可检索的技能库并接入 Skill Agent。
- 采集框架交互轨迹,用于微调团队可部署的小尺寸 VLM,比较其域外成功率与推理成本。
- 优先在 LIBERO-Pro 之外的真实或仿真长程操作任务上测试技能跨环境迁移,评估复用边界。
仍待确认
- WAA 在 LIBERO-Pro 之外的真实机器人任务上成功率如何,证据未给出。
- 同一技能在 robosuite 上仍有效,但迁移所需前置条件与失败场景未被说明。
- Qwen3.5-9B 微调后域外成功率提升的具体数值在证据中被截断,无法确认。
- 技能演化中基于证据的评审由谁执行、如何判定质量,证据未展开。