Agent Gym：基于人类反馈循环的 LLM 代理持续评估与进化框架

arXiv 论文提出 Agent Gym 框架，用于解决 LLM 代理部署后行为冻结而业务规则持续变化的问题。该框架通过包裹现有代理，提供 Act、Evaluate 等六种能力，实现持续评估与进化，无需修改源码即可进行事后行为纠正。

现有方法仅支持构建和一次性评估，事后修正需大量日志收集和工程重审，成本高、周期长。Agent Gym 提供结构化机制，无需修改代码即可持续纠正行为，降低成本并提升代理转型的经济价值。

框架分为三个架构区域：constitution 层将领域知识编码为配置；运行时推理管道串联行动、调查和自适应修正；学习循环允许领域专家用自然语言发现和验证新规则。核心技术包括混合确定性-LLM 修正引擎（21 个条件算子、三层动作）、无真实依据合规验证的三层调查架构，以及程序化安全循环。

对产品经理而言，部署后的代理可在不重构代码的情况下适应业务规则变化，减少工程介入。学习循环使非技术专家能通过自然语言参与规则修正，加速迭代。但需验证框架与实际工程流程的集成成本，以及安全循环对修正效率的影响。

• 在现有 LLM 代理产品中集成 Agent Gym 的 Evaluate 和 Correct 能力，提供持续评估与自动修正模块，减少人工日志审查。
• 开发面向领域专家的可视化规则配置界面，利用 natural language interaction 支持非技术用户验证新规则。
• 提供基于 Agent Gym 的合规审计功能，通过三层调查架构实现无标准答案的合规验证。

• Agent Gym 在真实生产环境中的性能开销和延迟影响缺乏数据。
• 21 个条件算子和三层动作的具体定义尚未在摘要中披露。
• 安全循环如何保证规则正确性，其误判率未知。
• 框架是否支持多种代理架构和主流 LLM 提供商，未明确说明。