- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月8日 11:49
- 状态
- 单一信源
发生了什么
arXiv 论文《Thinking Inertia: LLMs Keep Thinking When Told Not To》研究大模型的“不思考”行为。作者指出,以往用禁用思考模式或缺少长推理链来衡量“不思考”并不可靠,改为把回答拆为答案前文本与最终答案,用三项指标评估:严格仅答率、问题与答案前文本相关性、LLM 裁判判定的显式推理率。在六种提示干预与六个模型上测试布尔、单选、开放题后,作者发现显式禁用思考无法稳定消除可见推理,即“思考惯性”,且答案空间越开放越明显。准确率在布尔与单选题上保持稳定,开放题则在仅答合规与准确率之间有取舍。
为什么重要
此前业界常把“关闭思考模式”或“没有长推理链”当作不思考的证据,论文指出这些代理指标不可靠:模式虽关闭仍可能输出推理,长文本也可能是填充而非真实推理。它把“不思考”从二元开关变成可分级测量的行为,并揭示控制强度与任务开放性会影响是否真的停止推理,为模型行为评测提供了新基准。
底层逻辑
论文认为,思考惯性来自模型生成过程与提示控制之间的分离:提示词只是输入条件,不能直接改写模型已习得的推理倾向。作者用答案前文本与最终答案的切分,把“仅给答案”“相关但不推理”“显式推理”区分开,从而避免只看输出长度或思考开关状态造成误判。开放题答案空间大,模型可走的中间路径更多,推理更难被抑制。
产品与商业机会
对产品与研发而言,依赖“关闭 thinking 模式”来保证低延迟、低 token 成本或纯答案输出并不可靠,需要在评测中加入答案前文本检查与显式推理率指标。面向开放题的 Agent、客服、写作类产品若强制仅答,可能同时损失准确率,需按场景在合规与效果间设阈值。
- 在模型评测中加入答案前文本切分与显式推理率指标,作为思考模式开关之外的独立质量门禁。
- 针对开放题场景提供可配置的推理抑制策略,并在响应中标注是否仍存在可见推理,供业务侧选择取舍。
- 为高合规要求的仅答场景构建输出过滤与重写层,检测并移除答案前推理痕迹后再返回最终答案。
仍待确认
- 六种提示干预和六个模型的具体名单与效果差异未在证据中给出。
- “显式禁用思考无法稳定消除推理”的具体失败比例与统计显著性未知。
- 开放题中仅答合规与准确率取舍的量化幅度尚未披露。
- 评测使用的开放式问题类型与领域覆盖范围不明确。