- 类型
- 论文
- 来源
- Hugging Face Daily Papers
- 发布
- 2026年9月23日 00:00
- 状态
- 单一信源
发生了什么
研究者提出用“品味”描述 LLM 智能体在长周期任务中做关键决策的能力,并构建 Taste-Bench 基准,从智能体在工程与研究任务中产生的轨迹自动挖掘决策分叉点,要求模型在不知道后续结果的情况下选择方向。评估显示最强模型仅答对 59.7%,决策依据出现越晚的题目对所有模型越难,扩大推理预算并不能提升准确率;同时,把已看到结果的教师模型判断蒸馏到学生模型后,学生在未见任务上决策更好。
为什么重要
此前长周期任务基准只看端到端是否成功,无法区分“结果对”与“过程选择对”。该工作把中间决策本身变成可测量对象,并给出无需人工标注的自动构造方式,说明品味是可评估、可训练的独立能力维度,而不只是结果指标的附属品。
底层逻辑
分叉点来自同一任务的多次并行尝试以及单条轨迹中的绕路,两者对比可自动判定哪条方向带来更好结果,因此无需人工标注即可生成带标签的决策题。评测时隐藏分叉后的信息,迫使模型仅凭当前上下文判断方向;蒸馏则把已见结果的教师判断迁移给学生,使学生在未见任务上复用这种判断。
产品与商业机会
对做智能体产品的团队,意味着可以把中间决策质量纳入评测与迭代闭环,而不只盯最终成功率;训练侧可尝试用带结果的轨迹蒸馏来提升规划与选择能力。同时需注意,单纯增加推理预算无法改善此类决策,资源应投入到决策数据与训练方式而非延长思考。
- 在智能体产品中加入分叉决策评测,用自动挖掘的轨迹题定位规划环节的薄弱点
- 用带结果的教师轨迹蒸馏小模型,降低对长推理预算的依赖
- 把决策分叉点可视化到调试工具中,帮助团队复盘失败任务的早期错误选择
仍待确认
- 摘要未完整说明蒸馏后学生模型的具体提升幅度与覆盖任务范围
- Taste-Bench 的题目在真实工程与研究任务中的代表性尚不明确
- 59.7% 的正确率与人类在同类决策题上的表现如何对比未提及
- 该方法是否适用于非工程、非研究类的长周期任务尚无证据