SmartRAG：面向移动设备的原生图基检索增强生成框架

SmartRAG 是一个完全在移动设备上运行的智能助手框架，由感知、记忆、聚焦和思考四个模块组成。其核心是持续学习的命名实体识别器 EvoNER，通过教师蒸馏增量扩展标签库，并将提取的知识存储于三层溯源知识图谱 MRGraph。查询时采用图遍历、词汇匹配与密集语义搜索的混合流水线，仅在高级语义操作时调用设备端 LLM。在四个 QA 基准测试中，使用量化 1.7B 参数模型的 SmartRAG 在手机硬件上实现了与高达 18 倍参数模型竞争的多跳推理性能。

此前移动端部署大型语言模型受限于隐私、延迟与离线需求，通常依赖模型压缩或云端调用；SmartRAG 通过模块化分解与原生图结构，首次在普通手机上实现低成本且高性能的全设备多跳推理，显著改变了移动 AI 助手的可行性与设计范式。

SmartRAG 将设备端智能拆分为四个互补功能角色，避免单一模型承担所有计算。EvoNER 通过教师蒸馏持续学习新实体，无需重新训练骨干模型，使系统能适应新知识。MRGraph 的三层图谱保留知识来源，混合检索平衡速度与精度，仅在必要时调用 LLM，从而在严格硬件预算内控制推理成本。

对产品的影响：可实现在手机等边缘设备上运行隐私保护、低延迟且离线可用的智能助手，减少对云端服务的依赖；同时降低对超大模型的硬件需求，使移动 AI 产品更易落地，但需要适配 EvoNER 的持续学习机制与图谱存储开销。

• 在智能手机中集成 SmartRAG 作为完全离线的个人助理，提供本地问答与知识管理功能。
• 基于 MRGraph 构建用户个人知识图谱，用于个性化推荐或回忆辅助。
• 为智能穿戴设备开发轻量级图检索增强生成方案，利用 EvoNER 的持续学习适应动态场景。
• 将 SmartRAG 的混合检索流水线封装为 SDK，供第三方应用实现低成本本地语义搜索。

• EvoNER 在实际非结构化数据中的标签扩展准确率与鲁棒性尚未具体披露。
• MRGraph 在长期使用中存储膨胀与管理开销是否在可接受范围内？
• 该框架在复杂多轮对话场景下的性能表现与用户体验缺乏验证。
• 与其他移动端 RAG 方案（如纯向量检索）在相同硬件上的对比尚未提供。