学习何时信任医学知识：面向临床推理的回归安全路由

arXiv 论文提出 Med-TrustRouter，将临床推理大模型对外部医学知识的使用建模为逐实例路由问题。做法是保持求解器冻结，只依据无泄漏运行时信号估计每个动作的正确率增益与不确定性，除非某动作明显更优，否则保留原答案。作者构建了覆盖检索证据与推理链、含七类攻击家族的医学知识投毒基准，并用三评委投票筛选出「微妙但错误」的样本。在七种医学推理设置下，该路由取得 78.9 宏平均准确率和 69.2 最差情况准确率。

此前医学 RAG 常见做法是固定策略：要么始终采纳检索证据，要么始终依赖模型自身答案。该工作显示没有固定策略能在被投毒证据与有用证据之间同时稳健，并把关注点从提升平均准确率转向抬高最差情况下限。

外部检索证据和推理链可能过时、被投毒或幻觉，采纳后会触发回归，即把原本正确的答案改成错误。Med-TrustRouter 保持求解器不变，以运行时信号预估各知识使用动作的预期正确率增益和不确定性，只有在置信度足够高时才偏离基础答案。线性、树形和神经动作价值头表现相近，说明收益来自路由决策本身，而非估计器复杂度。

对医疗类助手与临床决策支持产品，该思路意味着可以把「是否采纳检索证据」做成独立可替换的控制层，无需重训基础模型，降低引入新数据源时的回归风险。评测上应同时报告宏平均与最差情况指标，而不是只看平均准确率。

• 在现有医疗问答或临床辅助产品中，把知识使用策略抽离为可独立上线的路由层，基础模型保持不动。
• 针对检索证据与推理链两类输入分别建设投毒样本回归测试集，纳入上线前门禁。
• 在评测看板中并行跟踪宏平均准确率与最差情况准确率，避免用平均值掩盖回归。
• 复用论文的路由信号思路，先在单个科室或单类问题上验证，再扩展到多场景。

• 该基准数据、代码与 Med-TrustRouter 是否已公开，能否复现 78.9 与 69.2 两项指标。
• 论文未说明路由引入的额外推理延迟和调用成本，实际部署代价尚不明确。
• 结果覆盖七种医学推理设置，但在真实临床工作流与中文医学语料上的表现未知。
• 无泄漏运行时信号的具体构成未在证据中给出，能否迁移到其他行业的证据使用场景待验证。