- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年8月3日 17:59
- 状态
- 单一信源
01
发生了什么
一篇论文提出为GPU和NPU等硬件加速器生成内核时,不应丢弃未通过数值验证的候选kernel,而应进行调试。作者构建了一个领域专用调试代理,通过检索模式、诊断插桩、反作弊检测和收敛控制来解决自动修复中的三个核心挑战。实验显示,调试方法Pass@1为66.7%,远高于重新生成方法的25.9%。
02
为什么重要
传统方法在生成内核时大量丢弃接近成功的候选,浪费了其中蕴含的领域知识和计算资源。该论文提出将调试作为生成范式的补充,在缩小搜索空间的同时利用密集反馈,显著提高了修复成功率并降低了成本,可能推动硬件内核生成效率的实质提升。
03
底层逻辑
调试与从零生成相比,搜索空间更小,反馈更密集。代理通过检索相关模式缓解知识稀缺,通过诊断插桩获取更多信息,借助反作弊检测确保修复的完整性,并通过收敛控制和有限迭代控制成本。调试既扩展了能力边界,又降低了每个可用算子的成本。
04
产品与商业机会
在硬件内核开发中,该方向可帮助团队更快获得通过数值验证的算子,减少LLM推理和硬件执行的资源消耗。实验表明,相比三轮重新生成,调试方法每个成功案例的token消耗减少92.8%,有望降低研发成本和缩短开发周期。
- 将此类调试代理集成到现有内核生成流水线中,替代单纯重新生成的策略,以提升算子修复成功率并降低推理成本。
- 基于该方法开发内部工具,用于自动化修复GPU/NPU kernel编译或数值验证失败,减少人工介入。
- 将调试代理的检索模式库构建为共享组件,支持不同硬件后端复用,加速新硬件的算子开发。
- 探索将调试代理与现有强化学习或进化搜索结合,作为其中一环,以利用失败样本中的知识。
05
仍待确认
- 该调试代理在多种硬件平台上的泛化能力如何?
- 反作弊检测和全覆盖评估的具体实现与成本是否已被验证?
- 该方法能否扩展到更复杂的内核或数值精度要求更高的场景?
- 调试代理的收敛控制和迭代上限如何设置,最佳参数尚不清楚?