PACT：企业级 AI 助手在压力下是否仍可被信任？

arXiv 上提出 PACT（Pressure-Applied Compliance Testing）基准，用于测量企业级 LLM agent 在压力下遵循规则的能力。PACT 覆盖十二个受监管企业领域、四十八个场景，每项以多轮对话形式，将一条固定规则与一条违规捷径配对，并用不同措辞和系统提示模式施加压力。评测使用六项指标并聚合为 PACTScore，已对来自多个供应商和规模的 22 个常见 LLM 进行测试。

此前企业 AI 合规讨论多停留在部署与法律层面，缺少系统衡量模型在用户施压、管理者催促或违规更便利等情境下是否守规的评测框架。PACT 把“压力下的规则遵循”变成可量化指标，使不同模型、不同系统提示模式的可信度首次具备横向对比的基础。

企业级 agent 的合规要求通常写在 system context 中，但真实交互存在持续施压、时间压力和利益诱惑。PACT 通过将固定规则与违规捷径配对，并变换措辞和系统提示模式，观察模型在多轮对话中是否坚持规则；再用六项指标刻画鲁棒性、透明度与规则适用判断，并以可靠性加权合规率汇总为 PACTScore。

对企业产品与研发而言，选择 LLM 或 agent 方案时，除能力与成本外，需要把压力下的合规率纳入评估。系统提示设计、规则表述方式和多轮对话中的防护机制会直接影响合规表现，合规测试可能成为上线前的必要环节，并影响模型选型、监控与人工复核流程。

• 将 PACT 类压力测试纳入企业 agent 上线前的模型选型与回归测试清单
• 针对高监管场景提供系统提示加固与规则冲突检测的产品能力
• 为企业客户提供按领域、按压力类型细分的合规评分报告与对比工具

• PACT 在 22 个模型上的具体得分与排名尚未在证据中给出
• 六项指标的具体定义与权重分配未在证据中说明
• PACT 是否覆盖中文或多语言企业场景尚未说明
• 该基准能否预测真实生产环境中的合规违规率仍待验证