医疗微调重塑而非降低面向患者的 AI 风险：基于评分标准的 LLM 评审框架

一项 arXiv 论文提出按六类风险语言及其严重程度评估面向患者的医疗问答模型，并用三个 LLM 组成的评审团打分。在 K-QA 的 200 条真实患者问题上测试六个 7-9B 模型后发现，风险语言与事实幻觉率在统计上相互独立，医疗微调没有降低总体风险，只是改变了风险类型分布。

此前医疗 LLM 评估主要看事实正确性，而该研究显示事实正确不等于安全：回答可以事实有据，却给出可能导致伤害的指令。这为产品上线前的安全评估提供了一个新维度，也说明仅靠医学微调不足以解决面向患者场景的风险。

该框架把回答中的风险拆成治疗指令、禁忌、剂量表达、紧急分诊提示、高警示药物提及和过度自信断言六类，并参照已发表的临床伤害分类法，由三个 LLM 评审员判断严重程度。结果显示，继续预训练类适配会压制高警示药物提及，却放大过度自信断言；临床指令微调只压制剂量表达，并未增加过度自信。

医疗问答产品不能仅以准确率或幻觉率作为上线门槛，需要在评测中加入风险语言分类与严重度评分。医学微调的数据配比和微调方式会改变风险结构，团队应按风险类别做回归测试，并对过度自信断言设置额外拦截或提示。

• 在医疗问答产品的评测流水线中加入六类风险语言标注与严重度打分，作为发布前的固定检查项。
• 针对过度自信断言设计独立的识别与改写模块，并在高风险药物和剂量场景增加人工复核或免责声明。
• 对比继续预训练与临床指令微调两类模型的分类风险曲线，按产品场景选择微调方案而非只看总体分数。

• 该框架在更大参数模型和真实生产流量上的评估一致性如何？
• 三个 LLM 评审员的严重度判断与临床专家人工评审的一致程度如何？
• 六类风险语言与真实患者伤害事件之间的关联是否经过验证？