多头隐式控制：为LLM智能体决策提供统一接口

研究提出Multi-Head Latent Control，一种轻量层，通过读取冻结LLM或VLM的隐状态轨迹，生成部署时的控制信号。它包括Capability Head（预测模型能力）和Resolution Head（决定澄清、工具调用、拒绝或直接回答），仅在冻结模型隐轨迹上训练，无需修改模型。在语言和视觉语言任务中，多模型系统质量-成本权衡改善，路由执行中大模型使用减少最高90.7%。

此前基于提示路由、外部编排或任务微调的方式依赖输入侧信号，成本高且难以维护。本方法直接从模型隐生成过程推断控制决策，实现后验适配，无需改动骨干模型，大幅降低大模型调用成本。

该方法在冻结的LLM/VLM上添加两个轻量预测头，其一预测当前模型能否解决问题，其二预测应采取的具体动作（澄清、工具使用、拒绝或直接回答）。训练时仅使用同一骨干的隐状态轨迹，推理时通过读取实时隐状态生成控制信号，实现早期切换和更精确的干预。

产品可借助该方法实现智能代理路由，在保证质量前提下减少对昂贵大模型的依赖；对已部署的冻结模型可后验添加控制层，降低替换模型后的维护成本；在视觉-语言混合场景中也能改善多模型协作效率。

• 在智能客服或Agent产品中集成该控制层，实现动态模型选择与任务分配
• 为现有冻结模型开发插件式控制模块，无需重新训练即可优化推理成本
• 结合工具调用和澄清机制，构建可自主判断何时求助或中断的Agent工作流

• 该方法在不同架构（如非Transformer模型）上的泛化性未在证据中验证
• 90.7%大模型减少是否仅在AndroidWorld特定环境达到，通用性待确认
• 训练两个预测头所需隐轨迹数据量和标注成本是否可控尚无说明
• 实际部署时隐状态读取对推理延迟的影响程度未提及