DualView：利用广义与输出专属证据的 LLM 多输出文本回归

arXiv 论文提出 DualView，用于基于 LLM 的多输出文本回归。该方法先从冻结的 LLM 中提取广义表征与各输出维度专属表征，再用双分支结构生成完整分数向量。在五个异构回归任务、八种 LLM（最大 122B）上，DualView 优于七个监督回归基线，可训练参数比三个最强基线少 82 至 1842 倍，且在训练数据有限时仍保持提升。

此前基于 LLM 的回归研究多集中于单值预测，多输出文本回归较少被探索。该工作把参数高效微调思路扩展到同时预测多个相关维度，并报告在参数大幅减少的情况下仍超过监督基线，为多维度评分类任务提供了新的对照方案。

DualView 不改动 LLM 主体，只从冻结模型中抽取两类证据：一类覆盖输入的整体语义，另一类针对每个输出维度抽取专属信号，再通过双分支结构汇总为完整分数向量。消融实验显示两类证据互补，而共享的轻量预测器可在更少可训练参数下保持较强表现。

对需要同时输出多个评分维度的场景，如内容质量评估、用户反馈打分、多指标风险评级，该方法可能降低微调成本与显存占用，并允许用较小开源模型替代更大闭源模型。产品侧可评估以冻结 LLM 加轻量回归头的方式替代全量微调。

• 在已有文本评分流程中，用冻结 LLM 加双分支回归头替换全量微调，测试参数量与推理成本是否同步下降。
• 面向需要多维度打分的业务，构建少量标注样本的评测集，验证小参数模型能否接近闭源大模型表现。
• 将双分支结构封装为可复用组件，接入现有标注与评估管线，观察在标注数据有限时的稳定性。

• 论文摘要未说明 DualView 在真实线上数据分布漂移下的表现。
• 五个异构回归任务的具体类型与输出维度数量未在证据中列出。
• 未确认该方法与 Gemini 3.1 Pro 对比时的任务范围与评测口径是否一致。
• 双分支架构的推理延迟与部署复杂度尚无证据说明。