潜在通信何时有效？多智能体 LLM 中继 KV 缓存的因果审计

arXiv 论文对多智能体 LLM 系统中继 KV 缓存带来的“潜在思维”收益进行了因果审计。通过置换、置零或随机化缓存，作者发现当接收方需要发送方私有信息时，主骨干上正确配对缓存几乎必然有效（100% vs 23–25%）；而不需要时差异在 2.8 个百分点内。研究还发现大缓存效应不等于配对效应，某场景置零损失 14.7 分，错配仅损失 0.4 分；不同系统的传输效果各异，基准增量不足以证明潜在思维传递。

此前多智能体系统常将缓存中继的收益归因于“潜在思维”，但缺乏严格验证。该研究首次通过因果审计区分了缓存效应与配对效应，指出基准指标提升不足以证明潜在思维传递，推动了该领域的评估方法论，对依赖此类系统的 AI 产品设计有直接参考价值。

中继 KV 缓存时，缓存内容与接收任务的匹配程度是关键。当接收方需要发送方私有信息时，匹配缓存提供必要上下文，因此效果显著；否则缓存只是通用特征，差异不大。通过将缓存替换为错配、置零或随机版本，可隔离出特定示例信息的作用，从而揭示系统性能提升的真实来源。

对于集成多智能体 LLM 的产品（如 Agent 协作平台），缓存中继可能未带来预期收益，尤其当智能体无需共享私有信息时。开发者需评估现有缓存策略的价值，避免不必要的性能开销；同时可借鉴错配缓存审计方法，优化智能体间通信协议，提升资源利用率和响应质量。

• 将错配缓存审计法集成到多智能体系统评估流程，识别缓存中继是否真正有效，并据此调整通信策略。
• 针对无需私有信息的中继场景，简化甚至移除 KV 缓存传递以降低计算成本，同时保持性能。
• 在需要私有信息的场景中，优先采用已验证有效的中继方式（如 LatentMAS 的原生中继），提升协作效果。
• 借鉴研究中的因果审计思路，开发诊断工具帮助排查多智能体性能瓶颈源于缓存还是其他因素。

• 研究中的审计结果是否适用于更广泛的模型规模和任务类型，例如视觉或代码生成任务？
• 在需要私有信息但中继部分受限的系统（如 KVComm），如何进一步优化以接近完整中继效果？
• 错配缓存审计法在生产环境中的计算成本是否可控，能否作为常规监控手段？