一次固定，轻量切换：子空间对齐的质心-残差训练用于高效Ultra-LoRA服务

论文提出SALT框架，通过联合训练高容量领域质心（centroid）和超低秩（r≤2）任务残差适配器，在推理时将质心固定在GPU显存中动态换入残差。实验显示SALT以低秩适配器恢复了高秩精度，相对压缩基线最高提升18.5%绝对准确率，单适配器内存降低最多16倍；集成到vLLM后，在PCIe带宽压力下吞吐提升51%，在GPU显存受限时提升28%。

此前LoRA多租户系统面临高秩高开销、低秩弱性能的取舍。SALT通过将高秩性能分离到不变的基础层，使每个租户只需运行极低秩残差，大幅降低显存占用和PCIe交换开销，同时恢复高秩精度，为超大规模多租户服务提供新路径。

SALT分三阶段：先由提供方在领域数据上训练高容量质心，通过对齐正则化将各任务子空间凝聚到统一基；用户仅需在私有数据上微调超低秩任务残差；推理时由提供方将质心固定在GPU显存，从磁盘或主机动态换入各用户的残差。低秩残差在统一子空间下编码任务差异，从而以极小代价保持高秩表达能力。

多租户AI平台可借助该类部署策略显著降低每租户GPU显存分配，减少PCIe带宽瓶颈，提升整体吞吐；但需要提供方统一维护领域质心，可能影响热启动和定制化能力。计算推理基座作为标配，租户只交换轻量残差，适合低成本个人化模型服务。

• 在vLLM等推理框架中集成SALT方案，评估PCIe带宽受限场景下的吞吐提升。
• 面向企业私有部署，提供预训练的领域质心库，降低租户微调成本和显存需求。
• 对现有LoRA服务进行内存与交换开销的基准测试，测算每适配器16倍内存节省的实际收益。
• 开发残差适配器按需换入的调度系统，结合负载预测优化交换时机。

• SALT对多语言、多领域混合场景的泛化能力尚缺乏证据支持。
• 质心训练所需的初始训练成本和对公共数据的要求未被量化。
• 该框架在非Llama架构上的表现和集成成本未具体说明。
• 端到端替换现有LoRA服务的复杂度及对现有用户的影响未提及。