- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月21日 01:43
- 状态
- 单一信源
发生了什么
arXiv 论文提出 Jev-Mem,一种借鉴 System-One/System-Two 认知分层的 agentic memory 架构。它用轻量 System-One 控制平面负责记忆类型划分、关系组织与检索路由、预算分配、图遍历、候选打分和自适应停止,仅在复杂推理和答案合成时调用 System-Two。在 LoCoMo 上,LLM-as-a-Judge 总分为 0.777,相对最强基线提升 11.0%;记忆构建时间降至 158 秒,较最快竞品加速 6.6 倍;平均查询延迟降至 0.93 秒,减少 36.7%。
为什么重要
已有 agentic memory 系统多依赖自回归 LLM 控制记忆的组织、检索和使用,导致昂贵的生成过程处于记忆操作的关键路径上。Jev-Mem 把快速决策与慢速推理分离,由轻量控制器承担记忆操作,只在需要时调用大模型,因此在效果提升的同时显著压缩构建时间和查询延迟。
底层逻辑
该架构将认知分工映射为三个平面:System-One 控制平面负责记忆构建时的类型与关系组织,以及检索时的查询路由、预算分配、图遍历、候选打分和自适应停止;多关系记忆平面承载结构化记忆;System-Two 推理平面只处理复杂推理与答案合成。机制上,这是把原本由 LLM 逐次生成完成的记忆决策,改为由专用控制器执行,从而把生成从关键路径移出,降低延迟与算力消耗。
产品与商业机会
对产品与研发而言,这意味着长期记忆能力可以在不显著推高推理成本的前提下落地:记忆构建从分钟级压缩到百秒级,查询延迟进入亚秒级,更接近实时交互体验。工程上需要引入独立于主 LLM 的控制器与结构化多关系存储,并针对路由、预算和停止策略做调优,而非单纯堆叠更强的生成模型。
- 在客服或助理类产品中部署分层记忆控制器,把记忆读写从主模型调用中剥离,优先验证查询延迟与单次会话成本变化。
- 基于多关系记忆平面构建可追溯的知识关联存储,用于需要跨会话引用历史决策的垂直场景。
- 将自适应停止与检索预算分配做成可配置策略,按业务对精度和延迟的不同要求调参,并建立离线评测集。
- 以 LoCoMo 为基准复现 Jev-Mem,与现有记忆方案在构建时间、查询延迟和 LLM-as-a-Judge 得分上做同条件对比。
仍待确认
- 0.777 的 LLM-as-a-Judge 得分与 11.0% 相对提升对应的具体基线是哪一个系统?
- 158 秒构建时间与 0.93 秒查询延迟对应的数据规模、模型和硬件配置是什么?
- System-One 控制器本身是否需要训练或依赖特定模型,其泛化到 LoCoMo 之外任务的表现如何?
- 论文是否提供消融实验,区分控制平面、多关系记忆平面与推理平面各自的贡献?