MemFit：高效长期智能体记忆系统

arXiv AI 收录论文 MemFit，提出一种面向对话智能体的长期记忆系统。现有记忆系统依赖 LLM 智能体整理和固化记忆，写入操作成本高、效率低。MemFit 将每一轮对话逐字存入仅追加存储，插入过程无需 LLM、接近即时；用分段摘要为对话轮建立索引而不替换原文，并采用无 LLM 的多路径检索，结合词汇与语义信号以及跨编码器重排。在 LoCoMo、MemGallery、LongMemEval-S 三个基准上，MemFit 取得当前最优性能，同时将记忆构建时间与成本降低数倍。

此前长期记忆系统普遍把记忆构建与固化交给 LLM 调用，写入路径昂贵且延迟高，压缩式方案又会丢失表层细节。MemFit 把写入与索引解耦，逐字保留原始对话、用摘要做索引，在三个基准上同时拿到最优性能和数倍的成本、时间下降，改变了长期记忆“性能换成本”的既有取舍。

机制上，MemFit 用仅追加存储承接写入，插入不调用 LLM，因此写入接近即时；索引层由分段摘要承担，原始轮次不被替换，避免压缩导致的信息丢失。检索层不依赖 LLM，而是并行融合词汇与语义信号，再对标题增强的片段做跨编码器重排，并同时覆盖文本与多模态场景，从而在保留细节的同时压低单位记忆操作的成本与延迟。

对做对话智能体或多轮助手的产品，这条路径意味着长期记忆的成本瓶颈可从 LLM 调用侧转移到存储与检索侧，写入延迟下降有助于把记忆做成每轮默认动作，而不必批量异步处理。研发上需要投入仅追加存储、分段摘要索引和多路检索重排三块工程，并重新评估原来的记忆压缩与固化流程是否仍有必要。

• 在现有对话产品中试点逐字追加存储加分段摘要索引，替换依赖 LLM 的记忆固化写入链路，观察写入延迟与调用成本变化。
• 将无 LLM 的多路检索（词汇＋语义＋跨编码器重排）接入已有知识或历史对话检索模块，减少检索环节的模型调用。
• 面向多模态对话场景封装标题增强片段的检索能力，作为可选记忆层对外提供。
• 以 LoCoMo、MemGallery、LongMemEval-S 为基线建立内部评测，量化记忆构建成本与延迟的下降幅度。

• MemFit 在三个基准之外的真实生产对话数据上，性能与成本表现是否同样成立？
• 仅追加存储长期运行后的容量、检索延迟与运维成本会如何增长？
• 该系统在文本与多模态设置下的具体实现差异和资源开销尚未在证据中给出。
• 论文是否提供可复现的实现或开源代码，以便产品团队直接评估集成成本。