- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月8日 07:06
- 状态
- 单一信源
发生了什么
arXiv 论文提出 EFRE(Evolving Functional REpertoires)方法,用以替代单一 prompt 做 LLM 持续学习。该方法在新任务到来时演化出一组函数:兼容更新会细化已有函数,冲突更新则触发新函数产生。在三任务持续学习流上,EFRE 最终平均性能比 GRPO 高 7.50 个百分点。适配 Bio 任务后,其在 FinQA 上仅下降 1.56 个百分点,而基础 prompt 优化方法下降 25.10 个百分点。作者还在一个最小 agent 系统中实例化 EFRE,并在不同骨干模型上观察到一致提升。
为什么重要
此前持续学习多依赖参数更新,成本高;而 prompt 优化在单项任务上可媲美 GRPO,却会在顺序任务中严重遗忘。该工作把优化对象从单一 prompt 扩展为可演化的函数库,若结论成立,意味着无需参数更新也能缓解灾难性遗忘,为低成本持续适配提供新路线。
底层逻辑
单一 prompt 在顺序任务中会不断累积规则,逐渐过拟合局部任务分布,从而在新任务上遗忘旧能力。EFRE 把知识沉淀为一组函数,用兼容与冲突判断决定是细化旧函数还是新建函数,使新旧任务的适配路径相互隔离,降低相互覆盖。
产品与商业机会
对研发侧,可将持续学习从重训练与参数微调转向提示与函数库维护,降低算力与迭代成本;对产品侧,多任务长期在线的 agent 或助手能在不重训模型的前提下持续接入新领域,同时保留旧领域表现,减少频繁回归测试与版本回退。
- 在多任务客服或行业助手场景中,构建可增量演化的函数库替代单一系统提示,降低新领域接入成本。
- 为 agent 产品增加函数冲突检测与自动新建机制,避免新任务规则覆盖旧任务能力。
- 在模型评估流程中加入顺序任务流测试,量化跨任务遗忘幅度而非只测单任务得分。
仍待确认
- EFRE 的完整方法细节与实现成本尚未在证据中说明。
- 7.50 个百分点与 1.56 个百分点对比仅来自三任务流,规模更大或任务数更多时是否成立未知。
- 最小 agent 系统中的一致提升具体指标与骨干模型范围未给出。
- 与参数更新类方法在推理延迟和部署复杂度上的对比尚不明确。