多智能体系统流量建模：协调拓扑的作用

一篇arXiv论文对多智能体LLM系统的流量模式进行实证研究，分析了顺序、星型和全连接三种协调拓扑下的LLM调用间隔时间分布。研究基于每种拓扑500次重复运行，发现拓扑结构显著影响请求到达过程，扇形展开引入双峰性，推理阶段符合对数正态分布，泊松指数模型被拒绝。

此前网络流量模型多基于人类驱动的工作负载设计，而多智能体LLM系统内部生成请求，其时序由协调逻辑决定，与传统模型假设不符。该研究首次实证表明协调拓扑根本性塑造流量模式，为理解和预测此类新兴工作负载提供了基础数据，对网络设计、容量规划及性能优化有直接意义。

多智能体LLM系统中，单个用户任务会触发一系列结构化的模型调用，其时机由协调逻辑而非用户到达率控制。不同拓扑（顺序、星型、全连接）改变了调用的依赖关系和并发程度，导致请求到达过程呈现不同统计特性，如扇形展开引发双峰性，推理阶段用时近似对数正态分布，而泊松假设失效。这些差异会传导至推理和网络层指标。

对采用多智能体架构的产品，需重新评估后端LLM服务的流量模型，现有基于泊松假设的容量规划可能不准确。开发团队应考虑流量模式的非泊松特性，优化资源分配和调度策略，以应对不同拓扑下的流量突发性，避免因内部调用激增导致延迟或成本上升。

• 基于该研究，可开发针对多智能体LLM工作负载的流量预测工具，帮助运维团队提前扩容。
• 为不同协调拓扑（顺序、星型、全连接）提供流量模式库，供架构选型时参考性能与成本。
• 结合开源框架（如agentraffic）建立监控面板，实时分析LLM调用间隔分布，辅助动态调整推理资源。

• 该研究是否涵盖其他拓扑如分层或动态拓扑，结果是否具有普适性？
• 不同LLM模型或推理引擎是否会影响流量统计特性？
• 研究基于模拟环境，实际生产环境的流量模式是否一致？