无真实值的信用分配：针对执行回放审计LLM智能体步级信用

一项研究在单一智能体工具环境ALFWorld中，对训练LLM智能体所用的步级信用信号进行了审计，对照执行回放得到的因果真实值。结果发现，LLM评判分数、结果条件对数概率比和策略自身置信度均未优于随机识别关键步骤；训练实验显示无可靠提升。

此前评估多依据标注的步骤正确性，该研究首次对照因果贡献审计信用信号，发现这些信号与真实因果贡献脱节，可能误导智能体训练，揭示了现有训练评估方法的盲点。

研究将信用分配与因果贡献对比：通过重采样策略替代方案并前瞻执行，测量对结果的改变。发现隐含信用与策略流畅性相关，结果条件未添加因果信息。因果贡献稀疏且可测量依赖模型，导致训练差异。

使用LLM评判或置信度进行信用分配的产品，其训练效果可能低于预期，需避免依赖单一信用信号。对评估流程，需引入因果对照以减少成本；可探索置信度路由以减少LLM评判调用，降低成本。

• 开发基于执行回放的因果审计工具，用于验证智能体训练中的信用分配准确性。
• 构建结合结果条件和因果贡献的混合信用信号，提升训练效率。
• 在训练中采用置信度路由，仅对不确定步骤调用LLM评判以降低成本。
• 设计步骤贡献评估流程，替代纯正确性标注，用于模型选型。

• 因果审计方法是否适用于多智能体或更复杂环境？
• 信用信号与因果贡献脱节在多大程度上影响实际产品性能？
• 是否存在更有效的信用信号能优于随机？
• 在更大规模策略上，因果贡献的可测量性差异是否持续？