RPMem：为 LLM Agent 学习跨会话的长期循环参数化记忆

arXiv 论文提出 RPMem，一种面向 LLM Agent 的跨会话长期记忆架构。它分两阶段：先把每个会话通过前向计算编译为与模型无关的隐式记忆，再用任务训练出的循环门控选择性合并历史记忆，最后映射为特定骨干的 LoRA 参数。在三个长期记忆基准和五个骨干上评估，Qwen3-8B 在 PERMA 上达 85.52%，比最强参数化和文本基线分别高 5.32 和 12.98 个百分点。

此前的文本记忆每次查询都要检索并重建历史，长程表现受检索质量牵制；参数化记忆又难以跨会话演化，且与特定骨干绑定，换模型后无法复用。RPMem 把会话压缩为与骨干无关的隐式记忆，再转为 LoRA，使记忆能随会话累积并在更换骨干后迁移，同时更新成本和内存占用接近恒定。

机制上，第一阶段用前向计算把单次会话编码成不依赖特定模型的隐式向量记忆；第二阶段用任务训练的循环门控决定保留哪些旧记忆并与新会话合并；最终把合并结果映射成骨干专属 LoRA 参数。这样记忆演化与模型生命周期解耦，换骨干时只需重新映射，而无需重放全部历史。消融显示会话编译与跨会话合并各自独立贡献，门控学到任务相关的整合策略。

对构建长期陪伴、客服或工作流 Agent 的团队，记忆层可从检索管线转为参数化模块，降低对向量库检索精度和超长上下文的依赖，并让历史越长时单次更新成本与存储不显著上升。更换基座模型时可复用已积累的记忆编码，减少重新采集与重训成本。但需评估 LoRA 合并带来的推理开销与记忆污染风险。

• 在客服或陪伴类 Agent 上试点将长期用户偏好从向量检索迁移为 RPMem 式参数记忆，对比长会话任务完成率与延迟
• 为产品设计骨干可替换的记忆层接口，使换模型时复用已有会话编译结果，降低迁移成本
• 围绕循环门控的合并策略做可观测面板，让产品团队查看哪些历史被保留，辅助排查错误记忆

• 论文仅给出 PERMA 等基准结果，真实产品长周期场景中的表现尚未验证
• 将记忆转为 LoRA 参数后，推理时的额外延迟与显存占用未在证据中说明
• 记忆的删除、纠错与隐私合规机制未被提及，长期错误记忆如何清理不明确
• 跨骨干迁移时记忆质量下降幅度、以及是否需重新训练门控，证据未覆盖