- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年8月26日 09:27
- 状态
- 单一信源
发生了什么
KOPE是一个用于硬件kernel优化的经验驱动框架,通过Experience Graph Memory记录优化轨迹及反馈,并在固定token预算下检索相关经验。在GLM-5.2设置下,其每算子加速比几何平均为CANNBot的1.54倍。在53算子消融实验中,Active Context Management and Injection将通过率从60.0%提升至84.6%,正字段几何平均从0.0382升至0.0661,并将优化token消耗从159亿降至11.13亿。
为什么重要
此前kernel优化智能体难以从历史优化中学习,而KOPE通过经验图记忆保留决策、反馈及分支,实现跨任务经验复用,显著提升优化性能和效率,表明LLM智能体在硬件优化中可从经验积累中获益,为相关工具的研发提供新方向。
底层逻辑
KOPE将优化轨迹(决策、结果、反馈及备选分支)存入图结构记忆,通过Active Context Management and Injection在固定token预算内检索最相关的历史经验,用于指导当前及后续优化步骤。这种机制使智能体能利用目标硬件上积累的证据,避免重复试错,从而提升优化效率和效果。
产品与商业机会
对依赖硬件kernel优化的AI芯片或编译器产品,KOPE可大幅提升优化效率(token消耗降为1/14)并提高通过率,可能降低研发成本并加速产品迭代。但论文未提及实际部署场景,具体影响需结合产品验证。
- 将KOPE集成到kernel优化工具链,通过经验图记忆复用历史优化结果,预期可减少手动调优工作量。
- 开发基于KOPE的自动化kernel优化服务,面向AI芯片厂商提供优化即服务能力。
- 结合GLM等基础模型,优化现有智能体框架的记忆管理策略,以提升长任务优化性能。
仍待确认
- KOPE在真实硬件上的通用性和稳定性尚未经过大规模验证。
- 经验图记忆的构建和维护成本(如存储和检索延迟)未被证据提及。
- KOPE与CANNBot的对比是否在其他基础模型设置下保持一致尚无证据。
- Active Context Management的token预算如何选择以达到最优平衡,仍需更多实验证据。