信方向、搜步长：面向 LLM 微调的零阶与一阶混合优化方法

一篇 arXiv 论文提出 ZFO 框架，将优化方向选择与步长选择解耦：由可信的一阶优化器决定方向，再仅沿该方向做零阶评估来决定移动距离。方法利用当前梯度信息和两次额外目标函数评估，在限定区间内构建局部模型并选取曲率感知步长。论文给出理论保证，并在多组语言模型与数据集上相比固定步长一阶基线常有优化与最终性能提升，代码已公开。

此前大规模模型微调中步长多依赖固定值或完整线搜索，固定步长易在收敛速度与稳定性之间失衡，完整线搜索则评估成本高。该工作把步长选择压缩到一维子空间并控制评估次数，若结论成立，则意味着微调可以在不显著增加计算的前提下获得更强的自适应步长能力。

机制是把高维优化拆成两个低耦合问题：方向交给成熟的一阶优化器以保证可靠性，步长则在该方向的一维子空间上用两次函数评估估计曲率，并用共享样本的有限差分构造局部模型，从而在有限搜索区间内选步。这样既避免高维零阶搜索的维度代价，又比完整线搜索更省评估。

对训练侧的直接含义是微调调参负担可能下降：不再需要为每个任务反复试固定学习率，同时额外开销仅为每步两次目标函数评估。对产品与研发流程而言，可能降低小团队做领域微调的算力与人力门槛，但要落地需先确认其在自有模型规模、数据与框架上的实际收益与稳定性。

• 将 ZFO 封装的步长自适应逻辑接入现有微调训练脚本，作为可开关的优化器插件，先在同一基线与数据集上做 A/B 对比。
• 在内部微调平台提供自动步长选项，记录每步额外两次评估带来的时间与显存开销，用数据判断是否值得默认开启。
• 复现公开代码仓库，在自有领域数据上验证论文所述性能提升是否可迁移，再决定是否纳入生产训练流水线。

• 论文结论主要基于其评估的模型、数据与设定，尚未确认在更大规模模型或长上下文微调上是否同样有效。
• 每次迭代额外两次目标函数评估对总训练时间与显存的实际增量未被证据量化。
• 不同任务下偏好的局部模型不同，如何在生产中自动选择该局部模型仍未说明。
• 与 LoRA 等参数高效微调方法结合时的表现和兼容性缺少证据。