- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月8日 13:44
- 状态
- 单一信源
发生了什么
该研究提出一套基于执行的无代码修复自动验证流程,在真实浏览器环境中评估大语言模型生成无代码修复的能力。测试对象为既有基准发布的 12 种配置所生成的 322 条无代码修复,涵盖错误配置、版本错误与外部系统依赖三类报告。执行器按自然语言指令操作并检查缺陷是否仍存在,分别使用两个 Computer-Use Agent 与一个多模态智能体 LLM,结果显示不同执行器下修复成功率在 14.6% 至 49.7% 之间,最强配置在最强执行器下最高达 74.1%。
为什么重要
以往对无代码修复的验证主要依赖人工操作浏览器复现与确认,耗时且难以规模化。该研究把验证环节改为可执行的自动化流程,并系统比较不同执行器对同一批修复判定结果的影响,量化了执行器差异带来的结论波动,使无代码修复评估从人工抽检转向可重复的端到端测试。
底层逻辑
无代码修复以自然语言指示用户改配置、升级版本或调整流程,本身不含代码,因此验证必须落到真实环境操作。该流程由执行器按指令在浏览器中执行动作,再由针对具体问题的检查器判断原缺陷是否消失。同一修复在不同执行器下结果不同,说明判定依赖执行器对界面与指令的理解,执行环节成为误差主要来源。
产品与商业机会
对缺陷跟踪与客服流程而言,该结果提示无代码修复的自动闭环尚不稳定:不同执行器给出的结论可能相差近四成,且仅不到一半修复能获得一致判定。产品团队若引入此类自动验证,需保留人工复核环节,并在选择执行器时评估其与自身环境的匹配度,而非直接采信单一模型的修复成功报告。
- 在缺陷管理系统中增加无代码修复的自动复现验证模块,先限定于错误配置与版本错误两类高确定性场景。
- 为无代码修复建立多执行器交叉判定机制,对判定不一致的修复自动转人工复核。
- 面向客服与支持团队提供浏览器内指导式修复脚本,并记录修复前后状态用于效果度量。
仍待确认
- 证据中未给出完整结论,最优执行器下的上限以及剩余失败原因尚不明确。
- 仅 17.6% 的候选问题能通过环境搭建与两项健全性检查,其余失败的具体原因未说明。
- 三种执行器与人工共识的最高匹配率为 88.1%,人工判定本身的可靠性未被讨论。
- 该流程在真实生产环境中的执行成本与耗时未被披露。