Policy as Code：面向 CAR-bench 快速推理可靠性的协程桥接测试框架

一篇 arXiv 论文提出 coroutine-bridge harness：模型只输出一段 Python 程序，程序在 evaluator 的工具调用处阻塞与恢复，从而把模型调用与工具往返解耦。在 CAR-bench 公开测试集上，每任务中位模型调用为 2 次、agent 轮次为 7 次，中位模型延迟 1.8 秒；官方隐藏评测以 60.0% Pass^3 获得 Track 2 第一，为中位任务延迟 3.14 秒。

此前工具调用型 agent 每轮工具结果通常都要触发一次模型调用，依赖链越长调用越多；该方案把工具往返从模型调用中剥离，使多轮任务在更少模型调用下完成。同时把确定性策略写成代码逻辑而非提示词规则，策略合规不再消耗推理成本，这对延迟与成本敏感的 agent 评测有直接参照意义。

机制有两点：一是用可暂停恢复的协程桥接，让模型生成的程序在工具交互处原地等待，模型只在需要推进逻辑时被调用，从而把调用次数与工具轮次解耦；二是动作面变为可执行代码后，确定性策略可直接写入工具层，成为强制逻辑而非可被忽略的提示规则。冻结的静态提示加任务尾部状态保持字节一致，缓存命中率因此提升，进一步压低成本与延迟。

对 agent 产品与研发的直接含义是：把多轮工具编排下沉到生成代码的运行时，可减少模型调用次数与端到端延迟，并把合规校验从提示词移到代码层以降低推理开销。提示保持字节一致以提升缓存命中，也意味着缓存策略应成为 agent 成本设计的一部分。评测上可用 Pass^3 等多次通过指标与延迟、成本一起衡量可靠性。

• 在自有 agent 框架中引入协程或暂停恢复式运行时，让模型生成程序在工具调用处挂起，减少每轮工具结果的模型调用。
• 将确定性业务规则从提示词迁到工具层代码，作为强制校验执行，降低合规所耗推理与失败率。
• 把提示设计为跨任务字节一致、仅尾部追加任务状态，并将缓存命中率纳入 agent 成本监控指标。
• 参考 CAR-bench 的 Pass^3 与中位延迟口径，为工具型 agent 建立同时覆盖可靠性与延迟的内部评测集。

• 摘要未说明 coroutine-bridge 在非 Python 运行时或不允许生成可执行代码的生产环境中的适用边界。
• 60.0% Pass^3 之外，其余失败模式与错误类型分布未在证据中给出。
• 成本优势只有相对描述，缺少与各参赛方案可比的绝对成本数值。
• 冻结提示的缓存收益来自特定推理服务，换用其他服务商后是否仍成立未被验证。