多头潜在控制：LLM代理决策的统一接口

研究者提出Multi-Head Latent Control方法，在冻结的大语言模型或视觉语言模型上附加轻量层，读取隐藏状态轨迹产生部署时的控制信号。该层包含能力预测头（判断模型能否解决当前实例）和决议头（预测应澄清、使用工具、弃权或直接回答）。在路由执行场景中，该方法可将大模型调用量减少最高90.7%，并改善多模型系统的质量-成本权衡。

现有代理决策依赖输入侧信号（提示路由、外部编排、任务微调），成本高且难以随模型更新维护。本发明直接从模型内部生成过程推断控制决策，无需修改原模型，实现了轻量、可事后适应的路由机制，显著降低了大型模型的使用成本和系统复杂度。

通过在冻结的LLM/VLM上训练两个轻量预测头（能力头、决议头）来读取隐藏状态轨迹。能力头评估当前模型是否胜任，决议头选择执行动作（澄清、工具、弃权、回答）。这使系统在不碰原模型参数的情况下，基于模型自身推理过程动态决策是否切换至更强模型或调用外部资源。

直接降低多模型系统的推理成本，大模型调用减少达90.7%；可集成到现有AI代理平台中作为路由决策层，无需重新训练主模型；加速代理响应时间，因为能从部分生成序列提前做出转发或干预决策。

• 开发基于该方法的模型路由中间件，支持小模型+大模型混合部署的智能代理系统。
• 在客服、代码生成等场景中集成该层，自动决定何时调用外部工具或升级至更强模型。
• 为现有LLM API提供附加代理决策服务，通过分析推理轨迹降低高成本API调用次数。

• 该方法在不同规模模型（如7B vs 70B）上的泛化能力如何？
• 训练能力头和决议头需要多少标注数据？其获取成本是否可控？
• 对于视觉语言任务，光照、分辨率等变化是否会干扰隐藏状态轨迹的稳定性？
• 能否同时支持多个小模型之间的路由，而不仅限于小+大模型对？