预训练一次、随处路由：迈向 LLM 路由的基础模型

研究团队提出 RouteFM，将 LLM 路由从针对特定查询负载和候选池的局部拟合，转为可复用的基础模型能力。它不绑定固定模型身份，而是从行为上下文中识别匿名候选模型的能力，经跨异构路由环境的片段式预训练后，冻结的路由器仅靠上下文即可适配新环境。在排除于预训练之外的 MMR-Bench 上，每个候选只给 8 次观察时，质量比最强基线高 2.23 分。

此前的路由器通常绑定特定候选池与查询分布，环境变化往往需要额外监督或重新训练。RouteFM 把路由视为可迁移的通用能力，在领域、模态、候选池和上下文预算变化下均报告了迁移效果，为减少重复训练提供了新路径。

RouteFM 通过跨异构路由环境的片段式预训练，学习从候选模型的行为表现推断其面向具体任务的能力，因而无需固定模型身份。迁移时只依赖上下文，路由器参数保持冻结，即可适配新候选池或新部署条件；行为证据越少，相对收益越明显。

若该能力成立，模型路由层可在更换供应商、模型版本或成本约束时减少重新训练与标注投入，缩短上线周期。对多模型编排产品而言，路由逻辑可独立于具体模型清单迭代，但需评估推理时上下文开销与匿名模型识别的稳定性。

• 在多模型 API 网关中试点 RouteFM 式冻结路由器，用少量候选观测替代逐环境重训，对比质量与调用成本。
• 围绕行为上下文工程构建内部评测，检验模型上下架或版本替换后路由结果是否稳定。
• 为模型市场或聚合平台设计按任务自动选模的默认路由层，并以 MMR-Bench 类基准持续回归。

• 代码公开，但预训练数据、算力开销与完整复现条件尚未在证据中说明。
• 2.23 分质量提升对应的成本、延迟与 token 开销变化不明。
• 在候选模型频繁更替或存在恶意行为伪装时，匿名能力推断是否可靠有待验证。
• 该结论主要来自论文自有实验，缺乏独立第三方复现与生产环境验证。