ReHoPER：用滚动时域规划增强大模型推理

研究者提出 ReHoPER，一种仅用于推理阶段、零样本的方法：在给出最终答案前，模型沿多条路径生成并回答中间问题，迭代规划一批候选中间问题，选择其中一个作答，再基于更新后的历史重新规划。该方法不依赖标注数据和任务专属提示设计，在包括新基准 iLLC 在内的多个数据集上优于强基线，组合性最强的场景提升最大。论文公开了实现与 iLLC 生成器。

此前提升推理多依赖训练、微调或针对任务定制的提示设计，需要标注数据或逐任务调优。该工作把改进限制在推理阶段，且同一套通用指令跨数据集与模型复用，意味着推理能力增强与具体任务解耦，组合性推理场景的收益更明显，也为评测提供了新的受控基准 iLLC。

机制是把一次性的长链推理拆成滚动时域决策：每轮先规划出一批候选中间问题，从中选一个回答，再把新答案并入历史并重新规划。多条候选路径扩大了搜索空间，滚动重规划让后续问题能根据已获得的信息调整，避免一次生成错误链条后无法修正。通用指令而非任务模板，使其可零样本迁移。

若机制成立，产品侧可用同一套提示流程接入不同模型和任务，减少为每个场景维护专用提示与标注数据的成本，并可在推理阶段按需调节候选路径数与规划轮次，在效果与调用成本间权衡。研发需评估多轮调用带来的 token 与延迟开销，并把 iLLC 类组合性测试纳入回归评测。

• 将 ReHoPER 封装为可插拔的推理中间层，供现有问答或 Agent 流程调用，验证同一提示在自有数据集上的收益
• 在自有业务数据上复现 iLLC 式组合性评测，量化该方法在哪些任务类型上收益最大
• 针对多轮规划带来的 token 开销，做候选路径数与规划轮数的成本-效果曲线，形成默认配置
• 评估与现有推理模型的兼容性，明确是否需要更换模型或仅调整提示即可上线

• ReHoPER 相比基线在各数据集上的具体提升幅度和评测设置尚不清楚
• 多轮规划带来的额外 token 消耗与延迟成本未被量化
• iLLC 基准的具体构造方式与难度分布、以及是否覆盖真实业务任务，证据中未说明
• 该方法在多大模型与哪些模型家族上验证过，是否对模型规模敏感，未确认