ScalableRAG：零摄入成本的高质量 RAG 方法

Cohesity 与学者合作提出 ScalableRAG，该方案无需构建知识图谱或向量数据库等传统摄入成本，通过维护文档集和值集的工作区实现即时聚合推理。在六个数据集上平均准确率比最强基线高 7.36%，且 LLM 调用次数上限与语料规模无关。Limited-Ingestion 变体则使用极简向量数据库和自动模式发现进一步提升精度。

传统 RAG 系统为提升检索质量往往需要高昂的预处理成本（如建图、建 SQL 表或向量数据库）。ScalableRAG 证明这些操作可以被零成本复制且性能更优，同时 LLM 调用次数恒定，极大降低了 RAG 落地的工程门槛和运维费用。

ScalableRAG 通过一个动态读写的工作区，将文档集和值集按主键分组，在查询时实时进行聚合推理，无需预先索引或图结构。LLM 调用次数设定为与语料规模无关的常数，避免随数据增长而线性膨胀。Limited-Ingestion 版本额外使用小规模向量数据库和自动模式发现样例文档，以优化大规模场景下的精度。

可直接省去向量数据库、知识图谱等基础设施，显著降低 RAG 系统的初始投入和持续维护成本。对于需要频繁更新语料的场景（如实时客服、动态文档库），能大幅缩短数据接入周期。同时，恒定的 LLM 调用次数有助于控制推理成本和延迟。

• 利用 ScalableRAG 构建低成本的实时问答系统，适用于电商客服或知识库问答场景，无需预先处理数据。
• 将其核心工作区机制嵌入现有 RAG 框架，替代传统摄入流程，降低产品开发和部署复杂度。
• 针对需要聚合多文档生成报表或摘要的企业应用（如财报自动整理），可直接采用该方法。
• 结合 Limited-Ingestion 变体，为大规模语料的企业提供高精度且资源可控的检索方案。

• 工作区机制如何支持文档的动态增删改？是否会引入数据一致性问题？
• 在远超论文测试规模的语料（如百万级文档）上，工作区读写和聚合推理的效率是否会成为瓶颈？
• 该方法对 LLM 的推理能力是否有特殊要求（如需要支持多轮聚合指令）？
• 与其他同时期零摄入 RAG 方法（如基于压缩检索的）相比，在不同数据类型上优劣如何？