当记忆采用梯度：面向智能体推荐系统的协作向量记忆

arXiv AI 发布论文提出 CoVeMem（协作向量记忆），将智能体推荐系统中大语言模型的用户记忆从纯文本改为向量形式。CoVeMem 使用冻结的 LightGCN 用户和物品状态构建记忆库，由候选集检索相关历史状态，以软令牌形式与文本画像一同进入 LLM 上下文。经对比对齐和列表式协同训练后，模型能通过点式读数对候选排序。在四个基准上，19/20 个指标单元达到或超过最强文本记忆智能体，且无需每次交互调用 LLM 维护记忆。

现有智能体推荐系统的用户记忆是文本，更新一次重写一次，成本高且无法利用完整交互历史中的协作信号。CoVeMem 将记忆向量化，使完整交互历史成为可训练数据，并以零额外 LLM 调用达到或超过文本记忆性能，显著提升效率与效果。

文本记忆受限于逐次重写和句子表达，难以捕捉全目录的协作相似性。CoVeMem 将用户和物品的嵌入（来自冻结的 LightGCN）作为记忆库，候选集本身通过检索相关历史状态，将其作为软令牌输入 LLM，结合文本画像。通过对比对齐物品语义锚点和列表式协同训练，模型学会读取这些向量状态并进行排名。

推荐系统产品可将用户交互历史以向量形式存储，减少 LLM 调用次数，降低推理成本；同时能利用完整历史数据提升推荐准确性。研发团队需实现向量记忆库和检索机制，并针对现有 LLM 集成软令牌输入。

• 在推荐系统中采用向量记忆替代文本记忆，可减少 LLM 调用次数，降低推理成本，适合高并发场景。
• 利用完整交互历史的协作信号，可提升长尾用户或新用户的推荐效果。
• 将记忆向量化后，可联合训练记忆读取与排序，使模型更适配个性化推荐。
• 结合匿名或隐私保护技术，向量记忆可能支持跨用户协作推荐，但需验证合规性。

• CoVeMem 在实际生产环境中的部署复杂度如何？
• 向量记忆的可解释性相比文本记忆是否下降？
• 该方法是否仅适用于推荐系统，还是可迁移至其他智能体任务？
• 训练 CoVeMem 需要多少标注数据？