SEPAL：用分离专家对与答案级融合实现可靠 LLM 协作

arXiv 一篇论文提出 SEPAL 方法，用三支私有的 Actor-Critic 团队分别负责直接推理、证据支撑与验证，通过角色化训练让各团队具备不同推理目标，并限制反馈只在队内传递。修订结束后只对最终答案做多数投票，保持推理过程相互隔离。在五个开源权重基座和五个问答基准上，SEPAL 相对单一 Actor-Critic 配对平均准确率提升 1.81 个百分点，且五个基座均有改善。

以往多智能体协作常让多个模型共享讨论，纠错的同时也会互相传染同类错误，削弱投票所需多样性；自一致性采样虽有多样性但无反馈，单对 Actor-Critic 又只打磨一个候选。SEPAL 把角色分工与隔离反馈结合，仅在答案层融合，提供了不同于共享讨论的协作路线。

该方法把协作拆成三条独立链路，每条链路内 Critic 只修正本团队的 Actor 输出，避免错误跨候选传播；不同角色目标使团队差异不局限于采样随机性，从而在最终多数投票时保持多样性。由于只在答案层合并，推理历史互不干扰，投票仍能覆盖不同错误模式。

对需要高可靠问答的产品，这一思路意味着可以并行部署多个角色化小模型或同一模型的不同提示分支，再以答案投票收敛，而不必依赖单一大模型的长对话。研发上需要额外维护训练与推理链路，推理成本随团队数上升，但基座可选用开源权重，存在用多路小模型替代单路大模型的质量与成本权衡空间。

• 在客服或知识问答系统中试点三路分离角色链路，仅对最终答案做投票，对比单路模型在准确率与错误率上的差异。
• 把证据支撑与验证拆成独立团队，用于高风险答案的二次校验，作为现有单模型输出的事后检查层。
• 评估用多个开源权重小模型并行替代单一大模型的成本结构，测量相同准确率目标下的推理开销。

• 1.81 个百分点的提升是否在其他任务类型（如摘要、代码）上同样成立，证据仅覆盖问答基准。
• 三支团队带来的推理成本与延迟增加幅度，论文摘要未给出具体数据。
• 角色化训练所需的数据与算力门槛如何，是否可在不重训基座的情况下复现。
• 多数投票在答案格式不一致或开放生成任务中如何处理，证据未说明。