- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年8月21日 03:34
- 状态
- 单一信源
发生了什么
AsmEvo是一个针对AMD GPU内核的代理式汇编级优化器。它能在无源码情况下重构、编辑并重新构建AMDGPU代码对象,通过差分验证确保功能等价。在MI308X上,29个KernelBench内核中有30个获得改进,几何平均加速1.35倍,最高3.88倍;在MI300X生产负载上,所有AITer二进制和vLLM/SGLang内核均获改进。
为什么重要
传统LLM优化器多针对源码级优化,而AsmEvo直接作用于编译后的二进制,无需源码,这为闭源或生成代码的优化提供了新路径,且能在保持功能等价的前提下获得显著加速。
底层逻辑
AsmEvo通过重构可重组装的表示,利用长期代理进行低级编辑,重建ABI保持的对象,并在相同启动条件下与原始对象进行差分验证,仅接受功能等价的候选,结合性能引导的热窗口编辑和保守的就地补丁回退,实现安全有效的汇编级优化。
产品与商业机会
对依赖AMD GPU kernel的ML系统,若无法获得源码,AsmEvo可在不修改源码的情况下提升性能,减少推理/训练成本,缩短响应时间,对采用AMD GPU的云服务或内部部署有直接影响。
- 集成AsmEvo到GPU计算平台,提供自动内核优化服务,用户上传二进制即可获得优化版本。
- 开发基于AsmEvo的插件/工具,为vLLM或SGLang等框架提供编译后内核的自动调优。
- 构建针对AMD GPU的编译后内核优化基准,评估不同硬件上的加速效果。
- 与AMD合作,将AsmEvo整合到ROCm生态,作为官方性能优化工具。
仍待确认
- AsmEvo对非KernelBench或Triton类内核的普适性如何?
- 差分验证的成本和耗时是否会影响实际部署?
- AsmEvo是否支持NVIDIA GPU或CUDA二进制?
- 优化后的内核在复杂真实负载下的稳定性如何?