Muffin：面向异步 AI 智能体的共享内存缓冲区

arXiv 论文提出 MUFFIN 异步智能体框架：orchestrator 按推理需求路由查询，将高难度任务交给多智能体环境，用共享内存缓冲区异步交换中间结果，而各智能体的私有推理仍保留在本地。在 20 个基准设置中，Muffin 在 17 个取得最高准确率；相比多智能体辩论，准确率提升 19.2 个百分点，token 用量减少 77.4%，且无需共享完整推理轨迹。

此前的多智能体辩论多依赖同步轮次发言并共享全部信息，协调成本高且容易在交互中丢失关键信息。Muffin 把信息交换改为异步共享缓冲区，只交换中间发现而非全轨迹，在准确率和 token 成本上同时优于同步辩论范式，为多智能体协作提供了新的协议思路。

Muffin 先用 orchestrator 判断查询的推理难度并决定是否启用多智能体，避免所有请求都进入高成本协作；多智能体阶段通过共享内存缓冲区异步写入和读取中间发现，减少等待轮次和重复推理；私有推理留在本地，只暴露必要结论，从而压缩传输内容并降低 token 消耗。

对构建智能体产品的团队，这意味着可用更少 token 获得更高任务准确率，并降低对同步编排和全轨迹日志的依赖。研发上可将 orchestrator 路由、共享缓冲区和本地私有推理拆为独立模块；产品上可据此设计按任务难度分级的成本策略，并减少跨智能体传输带来的上下文膨胀。

• 在自有智能体编排层实现按查询难度路由的 orchestrator，对简单请求走单智能体，复杂请求才启用多智能体。
• 将共享内存缓冲区设计为跨智能体的中间结果存储服务，只同步结论与发现，不传输完整推理轨迹。
• 用准确率与 token 消耗两个指标对比现有同步多智能体方案，验证在自有业务任务上的成本收益。
• 为智能体产品增加私有推理本地化配置，避免敏感中间推理进入共享缓冲区。

• 论文仅在 20 个基准设置上评测，尚未验证在真实生产任务和长周期工作流中的表现。
• 共享内存缓冲区在并发写入时的冲突处理与一致性机制未在证据中说明。
• orchestrator 判断任务推理需求的具体方法和误判代价尚不明确。
• 77.4% 的 token 节省是否依赖特定基准或模型配置，证据未给出范围。