AgenticCANN：通过知识增强的智能体演化自动化生成 Ascend C 算子

AgenticCANN 是一个用于华为 Ascend C 算子的自动化生成框架，通过知识增强的智能体演化策略，在 Ascend 910B 上对六种算子（五种模式）实现了 56%–100% 的可行性，其中 elementwise 和 normalization 算子可达 90%–100%，并对 1B 参数盘古模型推理内核实现最高 6.65 倍加速。知识注入将 elementwise 算子可行性从 57% 提升至 86%，证明其通用效果。

此前 LLM 自动生成算子主要针对 CUDA 生态，而 Ascend C 编程模型完全不同且硬件资料少。AgenticCANN 首次在低语料 NPU 环境（华为 Ascend）上实现高可行性算子生成与显著加速，打开了将 LLM 用于非主流硬件平台的新路径。

框架包含知识编排生成系统，向 LLM 注入结构化、多层次的领域知识以解决上游可行性瓶颈；同时采用阶段自适应演化策略，动态调整 LLM 交互模式，在候选探索阶段保持高发散性，在性能调优阶段保持高收敛性，从而平衡生成质量与优化效率。

直接降低 Ascend NPU 算子开发对硬件专家的依赖，可加速华为云、昇腾推理引擎的算子定制与优化；对使用华为 Ascend 910B 进行模型部署的团队，该技术能缩短算调优周期，提升推理性能。

• 在华为云 ModelArts 或昇腾推理平台中集成 AgenticCANN，提供自动化算子优化服务
• 针对频繁使用的 activation、normalization 等非融合算子，提供一键生成并部署的能力
• 结合知识库持续注入，扩展至更多硬件（如 910C）和模型架构的算子生成

• 该框架在更复杂的融合算子（如注意力机制）上的可行性能否超过 56%？
• 知识注入的通用性在完全不同的算子类别（如卷积、GEMV）上是否同样成立？
• 生成的算子与手工专家优化算子在稳定性、内存占用方面的差距有多大？